企業法務マンサバイバル

企業法務を中心とした法律に関する本・トピックのご紹介を通して、サバイバルな時代を生きるすべてのビジネスパーソンに貢献するブログ。

無料版Claudeに機密情報を入れた男の末路── Heppner事件の意義と、AI利用規約を読み解く前提となる4つの「箱」

米国には「秘匿特権(attorney-client privilege)」という法理があります。これは、会社や個人が法的な助言を受けるために弁護士と秘密にやり取りした内容について、裁判や公的調査で相手方や政府から「その中身を出せ」と求められても、原則として開示を拒めるというルール。依頼者が弁護士に不利な事実も含めて率直に伝え、適切な助言を受けられるようにするための仕組みです。

日本では米国ほど広く一律に開示を拒める制度がないこともあって、なじみの薄い概念かもしれません。しかし、2026年2月に米国で発生している秘匿特権を争う裁判が、AI時代のガバナンスを考える法務パーソンに刺さる問いを突きつけました。

「AIに入力した情報は、誰のものか」
「その情報の秘密は、どこまでが守られ、どこで失われるのか」

この問いは、秘匿特権のある米国だけの話ではありません。自社の機密情報をAIサービスに渡すとき、その情報がどう扱われるかは、日本企業にとっても同じく切実な問題です。

何も確認せずにAIに機密情報を入れたら、秘匿特権は吹き飛ぶ


United States v. Heppner事件(1:25-cr-00503-JSR, SDNY 2026)は、ニューヨーク南部地区連邦地方裁判所のジェド・ラコフ判事による、生成AIと秘匿特権に関する全米初の判断です(Akin Gumpが公判前決定のメモランダムPDFを含む解説を公開しています)。

ai-heppner-4


証券詐欺等の容疑で逮捕されたHeppnerは、弁護人を選任した後、消費者向け無料版のClaudeを使い、自ら防御戦略の分析レポートを作成していました。さて、これが弁護士への相談であれば、国や相手方から「その中身を出せ」と言われても、秘匿特権によって一定の範囲で相談の秘密を守れるはずなのですが、無料版のClaudeに読み込ませた文書にそれは認められるのでしょうか。

Paul, Weissの解説がわかりやすいので一読をお勧めしますが、結論として、ラコフ判事は秘匿特権の適用を否定しました。

ここで注意すべきは、裁判所が何を根拠に判断したかです。本件でラコフ判事が評価したポイントは、AIの裏側を支える技術的なアーキテクチャではありません。見たのは以下の3点です。
  • Anthropic社のプライバシーポリシーに、ユーザーの入力データをモデルの学習に使用すると明記されていたこと
  • 同ポリシーに、政府規制当局を含む第三者へのデータ開示の権利が留保されていたこと
  • 被告が自発的に第三者のプラットフォームに情報を開示しており、通信における「合理的な機密性の期待」が存在しなかったこと

つまり、せっかくの秘匿特権を吹き飛ばしたのは、利用規約・プライバシーポリシーの中身と、第三者への自発的開示に等しい行為が事実として認定されたためです。

ai-heppner-3

しかし、この事件を取り上げて「ほら見ろ、だからAIを使わせるのは危険だ」で終わらせるのは早計です。

注目すべきは、ラコフ判事がわざわざ付言した部分です。Gibson Dunnの解説でも強調されていますが、データの機密性が担保されたエンタープライズ版AIを、弁護士の指示の下で利用していた場合には、結論が異なり得たと示唆しています。

さらに本件では、Kovel doctrine(弁護士の秘匿特権を業務上の非弁護士専門家にも拡張する法理)の適用可能性にまで言及しています。つまりこの公判前決定は、AIの利用環境を正しく選べば秘匿特権が維持される道筋を、反対解釈によって同時に示してもいるのです。

裁判官が見たのは「規約」、ではなぜ「技術」を知る必要があるのか


今回の公判前決定の射程を正確に言えば、裁判所はAIサービスの技術的な構造そのものには踏み込んでいません。評価したのはあくまで、利用規約・プライバシーポリシーの文言から導かれる「機密性の期待の有無」です。

では、法務パーソンは利用規約さえ読めればいいのか。私はそうは思いません。なぜかといえば、利用規約・プライバシーポリシーに何が書かれるか、どこに気を付けてチェックすればいいかは、サービスの技術的な設計と強く連動しているからです。

AIツールの利用環境は、データの所在と管理主体によって大きく4つに分けられます。
  • ローカル ── AIモデルを自分のPC上で直接動かす方式。データは外部に一切出ない。機密性は最も高いが、現時点では最先端モデルと同等の性能を得るのは難しい。
  • オンプレミス ── 自社サーバーにAIモデルを設置して動かす方式。データは社内ネットワークの中に留まる。銀行や製薬会社など、高度な規制産業で採用されるパターン。
  • シングルテナント・クラウド ── クラウド上に自社専用の環境を構築する方式。原則として他社のデータとは物理的・論理的に分離されており、モデル訓練にもユーザーデータは使われないことが一般的。Claude Enterpriseや各クラウドプロバイダー上でのプライベートデプロイがこれに近い。
  • マルチテナント・クラウド ── claude.aiの無料版やChatGPTの無料版がこれ。多数のユーザーが同じインフラを共有し、利用規約次第でデータがモデル訓練に使われ得る。Heppner事件で問題になったのは、この環境。

これらはSaaS・クラウドサービスのリスク分析でもよく見た分類です。違いはといえば、クラウド時代を迎えて死語になりつつあった「ローカル」がここへ来て復権したことでしょうか。これは、AIエージェントに扱わせる情報を物理的に隔離する必要がでてきたためです。

この4分類と利用規約の関係はこうです。一般的に、ローカルやオンプレミスでは「訓練利用」や「第三者開示」の条項はそもそも問題になりにくい。また、シングルテナント・クラウドでは、規約上も訓練利用を排除する設計が一般的です。しかし、マルチテナントの消費者向けサービスでは、訓練利用と第三者開示の留保がデフォルトで規約に組み込まれていることが多い。Heppner事件のClaudeの無料版も、まさにこのパターンでした。

ai-heppner-1

注意したいのは、この対応関係は「一般的にそうなりやすい」という傾向であって、技術構造が直接に法的結論を決めるわけではないという点です。

セキュリティ的に望ましいとされるシングルテナントであっても、規約に訓練利用・第三者開示の留保・ベンダー技術者による監視(目視)権があれば秘匿特権の維持は危うくなり得ます。逆に、マルチテナントでも規約で機密性を保証する設計は理論的にはあり得る。最終的に裁判所が見るのはあくまで規約と運用の実態です。しかし、技術構造を知らなければ、目の前の規約の条項がなぜそう書かれているかの背景が読みとれません

規約の文言を「点」で読むのではなく、技術的な仕組みという「面」で理解するために、この4つの箱を頭に入れておく意味があります。

AIエージェントレイヤーの掛け算によって複雑化するリスク判断


会社がSaaS・クラウドを使うとき、自社データがどこに置かれ、誰がアクセスでき、どう管理されるかを確認するのは、法務にとって今さら珍しいことではないはずです。

ところが、AI時代を迎え、クラウド時代のセキュリティ知識だけでは済まないもう一つのリスク要因が掛け算で加わってきます。エージェント技術です。

以前の記事でも書いたとおり、Claude CodeやCoworkのようなAIエージェントは、指定されたフォルダの中でファイルを読み書きし、コマンドを実行し、ブラウザを操作するところまで自律的にやります。なんならファイルを削除することすらします。つまり、データがどこに保管されるかという「箱」の問題に加えて、その箱の中でAIが何をどこまで操作できるかという「手足の自由度」の問題が上乗せされるのです。

もし、クラウドのアーキテクチャすら正確に理解できていない状態で、さらにAIエージェントの権限設計まで判断しなければならないとすれば、大きなリスクを見誤る可能性があります。これが、AI時代の法務パーソンが直面しているリアルな難易度です。

ai-heppner-2

「AI利用の全面禁止」は法務の役割放棄


Heppner事件で秘匿特権が否定されたのは、一見すると「無料AIなんて使っちゃうからだよ」で片づけられてしまいがちですが、そうではなく、利用規約を確認せずに、訓練利用と第三者開示の留保があるサービスに機密情報を入力したからです。

この区別がつかないまま「AI導入は法的・セキュリティリスクだ」と叫んでも、出てくる結論は「AI全面禁止」の一択にしかなりません。それは法的助言ではなく、恐怖に駆られて反射的に踏んだブレーキでしかありません。

以前の記事で書いたとおり、AIガバナンスの実体は「情報アクセス(ディレクトリ/フォルダ)のパーミッション設定」に帰着します。どこにあるファイルをAIに開放するか、読み取りだけか書き込みも許すかという設計判断。Heppner事件は、その延長線上にある話です。フォルダ権限が物理的なアクセス範囲の制御なら、利用規約の理解は法的なアクセス範囲の認識。どちらもAIに何をどこまで委ねるかの設計であり、その設計にはAIの技術構造の理解が不可欠です。

法務が禁止しようがしまいが、社員は(Heppnerがそうであったように)便利なAIツールを使おうとします。そのとき法務が「リスクがあるから様子を見てしばらく全面禁止」で押し通すのか、「このサービスはシングルテナントで動くエンタープライズ版で、規約上も訓練利用・第三者開示がないから、この範囲で利用可。弁護士関与の場合は、秘匿特権を確保するためにも以下の手順を踏むこと」と、適切な利用設計を素早く組むのか。前者は、法務としての役割放棄と言っても過言ではないでしょう。

Heppner事件は、AIの脅威を示した判例ではありません。AIの技術を知らずにAIのリスクを語ることの脅威を示した判例です。リスクを叫ぶなら、まず仕組み・技術を理解し、そこに法や契約を掛け合わせたときに発生するであろう事象を正確に予測できるようになってからです。
 

ルールメイキング思考のその先へ ── 法務の次の仕事は「ハビットメイキング」

ルールだけではAIに攻略(ハック)されてしまう


前回の記事で、ユヴァル・ノア・ハラリが述べた「法律が言葉でできているなら、AIが法を支配する」という警告を取り上げました。言葉で編まれたシステムは、言葉の操作に長けたAIに侵食される。だから法務パーソンは「言葉の向こう側」に立つべきだ、と。



では「言葉の向こう側」とは、具体的にどこで・どんな景色なのか?今回はその続きを、もう少し普段の仕事や会社生活に引き付けて考えてみたいと思います。

法務の世界では、ここ数年で「ルールメイキング思考」が市民権を得ました。シティライツ法律事務所 水野祐弁護士が提唱した概念で、既存のルールに従うだけでなく、ルール自体を主体的にデザインし、変えていくマインドセットを指します。イノベーションと規制の関係を再定義する優れたフレームワークであり、次世代法務のキャリア指針としてもイメージしやすく、私自身ここ数年大切に守ってきた考え方です。

ただ、ハラリの警告に照らすと、ルールメイキング思考にはひとつの構造的な限界も見えてきます。

ルールメイキングの成果物は、ルールです。法律であれ、ガイドラインであれ、契約条項であれ、最終的には言葉で書かれたテキストとして世に出る。そしてハラリが指摘したとおり、言葉で書かれたものは、AIが最も得意とする処理対象です。ルールを読み解き、抜け穴を見つけ、最適な回避策を組み立てる。その処理能力において、AIはすでに多くの人間を凌駕しはじめている。

つまり、革新的なルールをどれほど精緻に作っても、それが言葉で書かれている限り、AIによって飲み込まれ、攻略(ハック)される運命にある。ルールメイキングは必要条件だけれど、それだけでは足りない時代に入りつつあるのではないかという懸念を持っています。

habitmaking-image1


ルールの手前にある「ポリシー」、そのさらに手前にある「ハビット」


法務パーソンがAI時代の次のキャリアを考えるのに指針とすべきものは?私が最初に思いついたのは、ルールメイキング思考の手前に「ポリシーメイキング思考」を置くことです。

ここでいうポリシーとは、個々のルールが生まれる前提となる「価値観」。なぜそのルールが必要なのか、何を守りたいのか、どんな世界を実現したいのか。その根っこにある判断基準そのものをいいます。AIにはない(はずの)意志を持つ人間ならではのものです。

しかし、よく考えるとポリシーもまた、ルールと同様言葉にできてしまいます。「当社は顧客の信頼を最優先にします」「私たちは公正な取引を重視します」。どれも立派なポリシーですが、言葉で書けてしまう以上、AIに解析され、最適化され、場合によっては形骸化される余地がある。

それでもAIに攻略されない領域はあるのか?探しに探して、見つかりました。

それは「習慣」です。私がここで提唱するのは「ハビットメイキング思考」です。ポリシーを言葉として掲げるのではなく、組織の中に習慣として根づかせる取り組み。理屈で判断するのではなく身体で反応できる状態を作る。ルールメイキングを一歩進めたのがポリシーメイキングとすれば、さらにそれをもう一段進化させたのが、ハビットメイキングです。

アリストテレス曰く「立法者の仕事は、市民を習慣づけて善き人にすること」


実は、このアイデアには2400年の歴史的裏づけがあることを、後で知りました。アリストテレスが『ニコマコス倫理学』第2巻で、こう述べています。

人は、正しいことを[実際に]為しながら正義の人となり、節制あることを[実際に]為しながら節制ある人となり、勇気あることを[実際に]為しながら勇気ある人となる。(中略)立法者は、市民がすぐれたことを為すように習慣づけるものである。いかなる立法者であっても立法者の意図はそこにある。ただし、当の習慣化を立派に行わない立法者は、誤ってしまう。そしてこの点において、さまざまな国の体制のあいだで優劣の差が生じてくるのである。(『二コマコス倫理学(上)』P102)

アリストテレスにとって、徳とは知識ではなく習慣(エトス)です。勇気が何であるかを知っているだけでは、人は勇敢にはなれない。勇敢な行為を繰り返すことでそれが習慣となり、はじめて勇気がその人の性向(ヘクシス)、つまり人格に根づいた状態になる

この区別は、法務の文脈に驚くほど正確にあてはまります。

「コンプライアンスが社会から求められています。贈賄やそれと誤解される行為は禁止します」と社内規程に書くこと。これは身近なルールメイキングです。「当社は顧客からの信頼を従業員の幸せよりも優先します」と経営理念に掲げること。これはポリシーメイキングです。しかし、社員が取引先から不正な要求を受けたときに、ルールやポリシーを参照するまでもなく、社員一人ひとりが腹の底から「それはうちではやらない」と感じて反射的に・当然に拒絶すること。これがハビットメイキングの領域です。

言葉にすれば同じようなことを言っているのに、組織に与える力がまったく違ってくるのがお分かりいただけるのではないでしょうか。

なぜ「習慣」はAIに攻略されにくいのか


ルールは言葉で書かれているからAIに読める。ポリシーも、言語化された瞬間にAIの処理対象になる。では習慣はどうでしょうか。

習慣とは、個人や組織の行動パターンが身体化されたものです。明文化されていないし、されていたとしても、テキストと実態の間には常にギャップがある。「うちの会社はこういうとき、こう動く」という暗黙の行動規範は、社内のSlackログや規程集をすべて学習させても、AIには完全に再現できない。なぜなら、それは言葉ではなく、人と人との関係性や経験の積み重ねの中に存在しているからです。

科学史家の村上陽一郎は、こう述べたそうです。

人間が何をすべきか、何をなすべきでないかの線引きは、科学では用意できません(山口周『ニュータイプの時代』Kindle版位置No.1983/4328より孫引き)

テクノロジーが進歩してルールの整備が追いつかない時代には、外在的なルールだけでなく、内在的な規範に基づく判断が必要になる。山口氏の言葉を借りれば、「ルールより倫理」の時代です。そして倫理とは、テキストに書かれた原則ではなく、人の内側に習慣として刻まれた判断の型にほかなりません。

『ニコマコス倫理学』第6巻では、思慮深さ(フロネーシス)とは

人間にとっての善悪が関わる行為の領域における分別(ロゴス)をそなえた真なる性向(『二コマコス倫理学(下)』P45)

と定義されています。ここでいう「性向」とは習慣によって培われた判断力のことです。思慮深さは教科書から学べる知識ではなく、実践の積み重ねによってのみ獲得されるものです。

habitmaking-image2


カルトと紙一重の自覚を持ちながら


ただし、このハビットメイキングには危うさもあります。

習慣の力が強いということは、裏を返せば、意図的に設計された習慣によって人を特定の方向に誘導できるということでもあります。本能的欲求や恐怖感を動員して「正しい行動パターン」を刷り込む営みは、一歩間違えればカルトの洗脳と紙一重です。

その境界線を引くものは何か。ここでもアリストテレスが手がかりを与えてくれます。アリストテレスの徳論は、特定の行動を無批判に反復させることを説いているのではありません。習慣づけの先に思慮深さ(フロネーシス)、つまり個別の状況を自分の目で見て自分の頭で判断できる実践知が育つことを求めています。盲目的な服従ではなく、自律的な判断力の涵養。そこがカルトとの違いです。

法務の仕事に引きつければ、「この契約はうちのポリシーに合わないからダメ」と機械的に判断するのではなく、「この場合はポリシーの趣旨に照らして、こう構成し直せばいけるのでは?」と現場が柔軟に考えられること。習慣の上に自律的な判断が乗っている状態になれば最高です。この状態に組織を育てるのが、ハビットメイキングのゴールです。

AI時代の法務パーソンの仕事は「ハビットメイキング」


長くなりましたが、まとめると以下のとおりです。

ルールメイキングは、ルールを再設計する仕事。しかし、AIが最も得意とする領域になりつつある。
ポリシーメイキングは、ルールになる前の価値観を明確にする仕事。しかし、言語化した途端にAIの処理対象になる。
ハビットメイキングは、価値観を組織の習慣として身体化する仕事。対話、経験の共有、ときに感情的な衝突も含めて、人の判断の「型」そのものを形成する営み。

「法令を知っている」から「ルールを作れる」への進化を推進したのがルールメイキング思考だとすれば、その先にあるのは「価値観を組織の習慣として定着させる」ハビットメイキング思考ではないでしょうか

ハラリは「言葉でできたものはAIに支配される」と言いました。ならば、法務パーソンの次の仕事は、言葉にならない習慣の領域を耕すことなのだと思います。契約書の文言を磨くのではなく、契約を結ぶ人間の判断の型を育て、習慣化にまで導く。まるで、新入社員の時に最初にお世話になったマナー講師やメンターを務めてくれた先輩、もっと遡れば小学校の先生のような役割かもしれません。

アリストテレスが2400年前に示した「徳は習慣から生まれる」という洞察が、AI時代の法務パーソンにとってこれほど切実な意味を持つとは。ご本人もさぞ驚いていることでしょう。


ニコマコス倫理学(上) (光文社古典新訳文庫)
アリストテレス
光文社
2015-12-08

ニコマコス倫理学(下) (古典新訳文庫)
アリストテレス
光文社
2016-01-08

「法律が言葉でできているなら、AIが法を支配する」── “人に残る仕事探し”思考から抜け出すためのヒント

ハラリが法律家に突きつけた三段論法


「法律が言葉でできているなら、AIが法を支配するだろう(If laws are made of words, then AI will take over the legal system)」

これは、2026年1月のダボス会議でユヴァル・ノア・ハラリが述べた挑発的な一言です。

yuvalnoahharariindavos2026

『サピエンス全史』のハラリに言われるまでもなく、人類が世界を支配できたのは「言葉」の力によるものです。宗教も、契約も、国家も、すべて言葉によって編まれている。そしていま、その言葉を操る能力において、AIが人間を凌駕しつつある。ならば、言葉で編まれたシステムは、いずれAIに「支配」される。これがハラリの三段論法の骨格です。

「いやいや、法の世界は言語処理だけじゃない。証拠集め、事実認定、文脈把握、価値判断こそが重要だ」

そうした反論がすぐ出てくる話題ですが、私はあえてこの警告を素直に受け入れる側に立って考えてみたいと思います。

ハラリ発言の批判者たちは、「AIに法律が理解できるのか」「しょせん統計的処理に過ぎないのでは」という土俵で戦おうとします。しかし、ハラリはそもそもそんな話をしていません。彼が問うているのは、もっと身も蓋もないことです。私たちの顧客は「AIが法律を人間のように理解している」ことなど求めていないのではないか?顧客にとっては「AIが人間のように言葉の操作をする仕事が処理できる」のであれば十分こと足りてしまうのではないか?ということです。

言葉を操作する仕事


企業法務の日常を棚卸ししてみましょう。

・法令調査とその要約
・契約書レビュー
・利用規約・プライバシーポリシーのドラフト
・社内規程の改訂
・取締役会議事録の作成
・株主総会招集通知・参考書類の作成
・登記申請

煎じ詰めれば、「大量の文書から情報を収集し、リスクを発見・整理し、それを処理する別の文書を書く」、いわば言葉を操作する仕事です。もちろん、その過程にはビジネス文脈を踏まえた判断や、相手方との人間的な駆け引きも含まれます。でも、胸に手を当てて考えてみれば、その中で高度な判断を求められる頻度は、正直なところそれほど多くはないはずです。

AIが上記のような文書類をフロムスクラッチで作成するサービスも、事案に対して判例・条文・学説から一定の法的見解を出力するサービスも、もはやSFではなく商品化されています。世界中のリーガルテック企業が、それらを実用レベルのプロダクトとして売りはじめている。法務の「言葉の操作」部分にAIが正面から堂々参入し、それを活用する法律事務所のパラリーガルや企業法務のジュニアクラスが減員されはじめた現実があります。

傭兵は、やがて王になる


そんなハラリ自身も、人間の「身体化された判断力」や「言葉に還元できない知恵」の領域は残ると言っています。

・この不利な契約を受け入れるべきか、破談を覚悟しても交渉を粘るか
・この訴訟を受けて立つか、和解に持ち込むか
・この現行法では違法な事業を、どう構成し直して適法なものとするか

そんなビジネス判断と法律判断が溶け合う領域です。

ただし、その領域にたどり着くまでの膨大な下準備としての法令判例調査、条項の洗い出し、リスク類型化、ドラフト作成は、すべて「言葉の操作」です。AIがここを侵食するスピードは、多くの法律家が数年前に想像していたよりも、はるかに速いと認めているはずです。いや、それでも我々にしかできないこともあるはず──

ここでハラリはこんなエピソードを持ち出し、警告を強めます。かつてブリテンの人々が、スコットランドとの戦いのためにアングロサクソン人の傭兵を雇い入れたところ、その傭兵たちが最終的にブリテンそのものを乗っ取ってしまった。世界のリーダーたちは「自分の戦争を戦わせるためにAIを雇う」つもりでいるが、傭兵がいつまでも傭兵のままでいてくれる保証はないよ、と。

法律事務所や法務部門に置き換えるとこうです。「AIをアソシエイトの補助ツールとして入れよう」と思っていたら、いつの間にかクライアントがAIに直接相談するようになってしまった。事業部が人間の法務パーソンに声をかけるのは、「AIの出力をダブルチェックしてほしい」ときだけ。やがて、その検証すら別のAIにやらせた方が速いし安い、とクライアント自身が気づく。

ついに、傭兵が王座に座る日が来てしまうのでしょうか。

言葉の向こう側に立つ


ここ数年、そして今日現在も、法務パーソンの話題は「AIに奪われない・人間に残る仕事は何か」を消去法的に探すものばかりです。皆さんもさすがにこの話題には飽き飽きされていることでしょう。

冒頭のハラリの警告は、私たちが陥りがちな消去法的思考から脱却し、発想を転換するヒントと捉えることもできるのではと思いました。すなわち、「法律に関わる仕事が、"言葉だけ"で構成されていると見なされてしまう状況を、自分の手で変える」アプローチもあるのではないかと。

この事業・この会社・この社会で何が正しいのか?という問いに対する価値の選択によって編まれたのが契約・規程・法律ならば、それらが言葉に変換される前の、人間の意思そのものに関わっていく仕事にジョブチェンジする。「言葉でできたものは、すべてAIに支配される」ならば、仕事を「言葉の向こう側」にシフトする。契約書の文言をチェックする人ではなく、契約を通じて相手方と共にビジネスを設計する人に。既存の法令・判例を精緻に調べる職人ではなく、法令が想定していない未来を構想しステークホルダーに働きかける計画者に。

ダボスの聴衆に向かってハラリは、「10年後のダボスは、人間だけが集まる場ではなくなっているかもしれない」と語りました。10年後の法務部門も、おそらく人間だけで構成されてはいないでしょう。そのとき、価値自体を動かして定義する側にいるか、誰かの価値観に染まったAIの成果物を追認する側にまわるか。その分かれ道が見え始めています。
 

【本】『企業法務のリーガル・リサーチ』── 書籍が支えるAIの信頼

法律事務所の垣根を越えた法律書ブックガイド


春になり新年度を控え、新入社員の配属もチラつく頃に欲しくなるのがブックガイドですが、その究極の一冊がこちら『企業法務のリーガル・リサーチ』です。

IMG_4599

本書は、企業法務の主要な専門分野(14分野)について、大規模法律事務所の弁護士が所属する法律事務所の垣根を越えて協力している点に大きな特徴がある。(中略)本書のような企業法務全般におけるリーガル・リサーチに関して取り扱う書籍について、特定の法律事務所と紐づく形ではなく、所属する法律事務所の垣根を越えた形で世に問うことができた点は、本書の性質上も、非常に意味があることと考えられる(序文より)

大事なことなので、2回言いました!>「所属する法律事務所の垣根を越え」

リサーチの技術、特にその分野の専門家が日々の業務でどんな書籍を頼りにしているのかは、紙の法律文献が大量に出版されている日本特有の状況下、ある種のノウハウなのだろうと思っています。実際、私が図々しく聞いても、真摯に答えてくれる先生は一部に限られていました。しかし、本書では、のべ53人もの弁護士の先生方を口説き、具体的な書籍名を開陳させています。このプロジェクトを実現させた編集代表の先生方の調整の苦労が偲ばれますし、他の法律書籍出版社の書籍を多数レコメンドする書籍を出すことを当然のように受け入れた有斐閣さんの懐の深さもさすがです。

数年前、ある法律出版社さんから不肖私あて、「あなたが作っている"法律書マンダラ"を書籍化しないか」と、単著企画のお誘いをいただいたことがありました。世の中にそういうまとめ本ニーズがあることは承知していましたが、私ごときが(ブログならまだしも)書籍という形でおすすめ法律書リストを出すなど、そんな身の程知らずの愚行をしたらどうなるかと考えて、光栄なお話ではありましたが、丁重にお断りをしました。

素晴らしい先生方が集まってこその本書を拝読して、何かの間違いでそれが出版に至るようなことにならず、本当に良かったと思います。

IMG_4601


種別ごとに分類する効果


本書は、企業法務のプロがリサーチで参照する法令/所管省庁のガイドライン・Q&A/ウェブサイト/パブコメ/書籍/データベース等を、分野別に洗いざらい紹介されているのですが、数あるリーガル・リサーチ本には見られなかった最大の特徴は、やはり具体的な書籍を書名付きで多数ガイドしてくれるパートです。

しかも、ただなんとなく先生方の頭の中で思い浮かんだおすすめ書籍を列挙しているのではなく、

・基本書
・コンメンタール
・実務書、手引書
・定期刊行物

の種別ごと項目建てをした上で、それぞれを意識して分けてリストアップしてくれているのが最高です。読者の立場から探しやすいのもそうですが、各分野違う先生が分担して書かれている書籍で起きそうな事故、たとえば「この分野だけコンメンタールの紹介を忘れてるな...」みたいな事故が未然に防がれる効果もあったでしょう。

さりげなく重要度ランクも


面白くもあり残念でもあったところが、紹介されている書籍の「重要度ランク」表現についてです。さすがに、ストレートにABCみたいな直接的な表現でランク分けはされていません。ところが、よくよく読み込んでみると、

「必読である」
「極めて有用である」
「有用である」
「参考になる」
「...も参照する」

といった言葉の端々に、さりげなく各書籍の重要度をランク付けしているのでは?と察せられる表現を使っている章があります。読者のニーズを分かっていらっしゃる。ただ、それがすべての章に徹底されていたわけではないので、願わくば全執筆者の皆さんに、書籍間の重要度の高低をにじませて欲しかった。

IMG_4604


それともう1点、巻末に索引代わりのおすすめ書籍リスト(表)ついてないかなーと期待したんですが、やはりというべきか、ありませんでした。残念。なんならOCRにかけた後、生成AIに読み込ませて自分でリストを作りたいところですが、巻末に「スキャン禁止」との注意がありましたので慎みます。

書籍が支えるAIの信頼


本書を読んであらためて感じたことは、高度専門職領域における書籍の価値の高さです。

いまや、法令リサーチもAIで行うのが当たり前の時代になり、その利用頻度は日々高まっていく一方です。しかし、弁護士や企業法務責任者のような高度専門職にとっては、AIが生成したリサーチ結果を読む際、

・その論を裏付ける文献があるか
・その文献は能力・実績ある人物によって書かれたものか
・刊行後どれほどの期間を経て定評を培った文献か

といった点を、過去に部下が作成してきたリサーチ結果を読むときにチェックしていたのと同様に確認しているはずで、書籍の重要度はまったく変わりません。

AIがいかに便利に・素早く・美しい見栄えのする法令リサーチ結果を返してくれたとしても、そのアウトプットの質は、ほとんどが書籍・論文といった文字メディアによって培われた専門知の「信頼」に依拠しています。著者の先生方が何年にも渡る修行の中で獲得した経験・成果を、数か月の時間をかけて書籍としてアウトプットし、刊行後も長年読者からの厳しい批判に耐え抜くというプロセスを経て培われた「信頼」があってこそです。

1年後にAIの進化がどこまで進んでいるかなど全く予想もできず、3年後に私の職自体があるのかすら分からない世の中。そんな先の読めない時代においても、書籍というメディアが支えてきた信頼の強度はこの先5年10年は失われないのだろうなと、この本にリストされた定評ある書籍の数々を拝見して感じました。
 


「AIに責任は取れない」── では法務は責任を取れるのか?

「AIに責任は取れない。だから人間の仕事は残る」のウソ


「AIに責任はとれない」——生成AIが話題になるたびに、定期的に出てくる"安心"のロジックです。そして企業内でも、これと似た構文をよく見かけます。最終的に責任を取るのは法務だから、法務の仕事は代替されない

本当にそうでしょうか?

元ドワンゴ社長の川上量生氏が、Xでこんな投稿をしていました。

たまに見るAIに責任は取れない(人間しか責任は取れない)という議論について。
そもそも人間が責任を取るということがなぜ必要かというと社会を成立するために社会の各構成員が社会の存立を阻害しないように意思決定に制約をかけるためだ。自分勝手な意思決定をして社会に何か迷惑な事象が発生するとペナルティの可能性があるということを、人間の脳に事前に教師データとして与えて学習させるためだ。そして、実際に問題を発生させてしまったら、さらに再学習をさせるという仕組みだ。
目的から考えるとAIは責任を取らせたい事柄については、事前に、直接、教師データを与えて学習させればいいし、失敗したら、再学習をさせればいいということになる。
つまりAIはなにも責任を取るというワンクッションを置く必要がない。
もし信頼性などの点で再学習が困難なAIがある場合はシステムごと破棄するというのが現実的な対応になる。
人間に例えると、反省文を書くか、死刑の2択になる。
僕はAI時代には、このルールは人間にも適用されるようになるだろう、と思っている。
犯罪に対する刑罰というのは更生という名の再学習を促すためであって、被害者の懲罰感情を満足させるためのものである。更生ができないのであれば、社会から隔離する。そういう整理が合理的だ。
軽微なルール違反についてはやってはいけないからペナルティではなくて、ペナルティを払えば、やってもいい。
AIという人間ではない行動主体があらわることにより、AIに対する責任の取らせ方を人間も真似をするようになる。
人間だけが責任を取れるんだと意味不明のプライドを主張しているのは、今だけで、すぐにAIはずるい。人間も同じにしろとなる。人間とはそういう生き物だ。

これを読んで思い出したのが、2017年ごろ、慶應義塾大学の新保史生教授が「AIに人格(法人格)を与える」可能性に言及していたことです。当時は、いまほど生成AIが一般化していなかったので、正直「制度論としては分かるが、ややSF寄りの挑発」ぐらいの距離感で聴いていました。

川上氏の"責任=ワンクッション"論を見た直後に2017年の新保先生の主張を思い出すと、両者が別の方向から同じ論点(=責任の置き場所)に触れていることが見えてきます。そして、その「責任」の話は、結局のところ我々の足元、つまり企業内の「法務」の役割そのものに刺さってきます。

AIは責任を取れない——では、法務は責任を取れるのか?

川上量生氏の「責任=学習メカニズム」論


川上氏の投稿の肝は、責任を「道徳」ではなく「社会を成立させる装置」として説明した点にあると思います。

・人間に責任を取らせるのは、社会を成立させるために、意思決定に制約をかけるため
・自分勝手な意思決定をするとペナルティがある、という"教師データ"を事前に脳に与えるため
・問題を起こしたら、さらに再学習させる仕組み

そしてAIについては、目的から逆算してこう言い切ります。「つまりAIはなにも責任を取るというワンクッションを置く必要がない。」

責任を「反省」や「償い」の美談にせず、

・望ましい行動を事前学習させる
・失敗したら再学習させる
・再学習が難しいなら破棄(システムごと廃棄)

という、かなりドライな運用論に落とし込んでいます。

極端な比喩(「反省文を書くか、死刑の2択」等)には賛否があるでしょうが、"責任"を「人間の高貴さの証明」ではなく「制御の仕組み」として見ている点が、実務的に重要だと思いました。

ai-responsibility-3

新保史生教授の「AIに人格(法人格)を」論


時間を2017年ごろに巻き戻します。新保史生教授は、AI・ロボットの普及によって生じる社会問題(雇用・課税・社会保障など)を視野に入れた制度論の中で、次のような提案と問題提起をしています。

「今後AIが普及すると、人間の仕事が奪われると言われています。おそらくこれは現実になるでしょう。単純作業はAIが取って代わり、失業が生じるはずです。その時、社会は何をすべきでしょうか。一般的には、人間でなければできない仕事を探すべきだと言われます。しかし、私はまったく違う考えを持っています。AIに人格、法人格、権利能力を認めることを考えてもいいのではないかと思うのです。」(新保史生「ロボットと人工知能の普及と法的課題」DHU JOURNAL Vol.04 2017 39頁
「法的な権利主体として「人工的」に設けられる人である「法人」のように、自然人たる人間が人工的に作り出した人工知能を「AI人(電子法人格)」とでも位置づけるなどして、新たな法人格(権利能力)の法的な位置づけを認めるべきであろうか」(2018年7月12日 第280回消費者委員会本会議 資料10頁

ここで注意したいのは、新保先生の文脈は「AIを尊重しよう」「AIに人権を」ではない点です。法人が法律上"人"として扱われるのも、突き詰めれば法技術です。ならば、AIにも同様の"器"を与えることで、

・責任(義務)や負担(課税)を載せられるのか?
・契約の主体になり得るのか?
・「人」と「物」の区別を見直す必要が出るのか?

といった、制度の土台から考え直す必要があるのでは、との問題提起をされていたと認識しています。

川上氏が「責任はワンクッション」と言い、新保先生が「人格という器もあり得る」と言う。方向は違うようでいて、どちらも「責任とは、どこに置くかの問題だ」という点でつながっているように見えます。つまり、川上氏は、責任を"学習/制御の仕組み"として捉え直し、新保先生は、責任を"法技術(器の再設計)"として捉え直しているわけです。

「責任」の制度設計


この2つの意見を踏まえると、世にいう「AIは責任を取れないから人間には勝てない」論が、急に薄っぺらいものに見えてきます。

責任が重要なのは分かる。でも、その責任は、精神論としてではなく、制度設計としての「置き場所」問題として考えるべきだろう、と。そしてその問いは、企業内の「法務」にも、そのまま当てはまります。

ビジネス法務の現場では、しばしば"責任"という言葉がこう使われます。

「それ、法務として責任取れるの?」
「法務もOKって言ってたよね?」
「法務は何で止めなかったの?」

しかし、冷静に考えれば、法務部門は経営者が引き受けるべき責任を肩代わりなどしていない、というか、できる権限を与えられていません。違法あるいはグレーなビジネス行為であっても、実行する/しないを最終的に決めるのは、あくまで経営者(事業責任者)です。法務はどこまで行っても"判断材料の整備者"であって、"実行ボタンを押す人"ではないはずです。

川上氏は「責任を取るというワンクッションは要らない」と言います。これを法務的に翻訳するとこうなるでしょう。

・法務部門は、経営の意思決定にワンクッションを入れるために設置されている
・ワンクッションの目的は、意思決定の質を上げることと、事故確率を下げること
・しかし、意思決定の結果責任は、最後まで経営に残る

こう読むと、「AIは責任を取れないから人間法務は残る」という主張は、かなり苦しいものとなります。

関数化できない仕事とは何か


法務の仕事のうち、エージェンティックAI/AIエージェントができないことは、どれだけあるでしょうか。

・事実関係の収集(ヒアリング、証拠集め)
・規範の当てはめ(法令、ガイドライン、裁判例、当局運用、契約解釈)
・論点の言語化(争点整理、想定シナリオ、落としどころ)
・選択肢の提示(やる/やらない/条件付きでやる/代替案)
・記録(メモ、メール、稟議、議事録、契約書)
・監視(ログ解析、アラート、継続モニタリング)
・エスカレーション(必要なら止めにいく)

この大部分は「情報処理と言語化」作業であり、いずれもAIにも実行可能となりつつあります。

ここまでの整理を見て、法務の人間なら当然こう反論するでしょう。

法務は、単にルールというコードを実行する関数ではない。現実社会では、不完全な人間が、不完全な情報を持ち込み、欲や恐怖で動く組織の中で、確かなファクトを探った上で法的正義と利益のバランスを取る、泥臭い調整弁が必要だ。経営者が安心して責任を取れる状態を作るのが我々の仕事であり、そうした"活動"までをAIが代替できるようになるとは思えない、と。

ai-responsibility-2

それでもAIは迫っている


この反論には力があります。現場の泥臭さを知る人ほど、うなずくでしょう。

しかし、その「泥臭さ」の正体を分解してみると、

・事実関係が散らばっている
・関係者の利害が言語化されていない
・意思決定者がリスクの輪郭をつかめていない

こうした状況を整理し、判断可能な状態に持っていく作業です。それは確かに今の法務の中核的な価値ですが、やはり情報処理と言語化というAIが最も得意とする領域と重なっています。

では、それでも残る「ラストワンマイル」とは何でしょうか。2つの場面を考えてみます。

たとえば、コンプライアンス上の問題を発見したとき。事実の整理と法的リスクの分析まではAIでできるかもしれません。しかし、それを社長に直接言うのか、管掌役員を経由するのか、取締役会まで持ち上げるのか。タイミングは今日なのか、来週の経営会議まで待つのか。伝え方ひとつで、組織の動き方はまるで変わります。この「持っていき方」の設計は、社内の力学と人間関係を読む仕事であり、マニュアル化が極めて難しい領域です。

あるいは、紛争や契約交渉の場面。AIが複数のシナリオと想定損害額を出してくれたとしましょう。しかし、「この条件なら相手も降りられるだろう」「ここを譲ると次の案件に響く」といった判断は、相手の顔色、社内の温度感、会社が辿ってきた歴史、業界内でのキャラクターといった、センサーでは捉えにくい・ログに残りにくい情報の統合です。落としどころを「見つける」のではなく「つくる」仕事は、数値化・データ化できない文脈の読みに依存しています。

AIが選択肢を並べた"その先"で、どれを選ぶかに血を通わせる。ここに法務パーソンの不可欠な価値がある。だからといって安心するのは早いでしょう。川上氏と新保先生の議論が示しているのは、「責任」というものが人間の崇高さの証ではなく、社会を回すための仕組みにすぎないという冷めた事実です。仕組みである以上、設計次第で置き場所は変わり得ます。では、責任の制度設計者を自分が担うか、それとも誰かに任せるのか

「法務の仕事がなくなるかどうか」——その問いの立て方自体が、もう古いのかもしれません。問うべきは、「自分はどこに立つのか」。AIが関数化できる領域が日々広がっていく中で、関数の外側にある判断を発見し、自覚的に選び取れるかどうかが問われていくことになります。

「AIは責任を取れない」は、安心材料ではなく、責任の再設計が始まっているという警告です。
 
記事検索
月別アーカイブ
プロフィール

はっしー (Takuji H...