「AIに責任は取れない。だから人間の仕事は残る」のウソ
「AIに責任はとれない」——生成AIが話題になるたびに、定期的に出てくる"安心"のロジックです。そして企業内でも、これと似た構文をよく見かけます。最終的に責任を取るのは法務だから、法務の仕事は代替されない。
本当にそうでしょうか？
元ドワンゴ社長の川上量生氏が、Xでこんな投稿をしていました。
たまに見るAIに責任は取れない（人間しか責任は取れない）という議論について。
そもそも人間が責任を取るということがなぜ必要かというと社会を成立するために社会の各構成員が社会の存立を阻害しないように意思決定に制約をかけるためだ。自分勝手な意思決定をして社会に何か迷惑な事象が発生するとペナルティの可能性があるということを、人間の脳に事前に教師データとして与えて学習させるためだ。そして、実際に問題を発生させてしまったら、さらに再学習をさせるという仕組みだ。
目的から考えるとAIは責任を取らせたい事柄については、事前に、直接、教師データを与えて学習させればいいし、失敗したら、再学習をさせればいいということになる。
つまりAIはなにも責任を取るというワンクッションを置く必要がない。
もし信頼性などの点で再学習が困難なAIがある場合はシステムごと破棄するというのが現実的な対応になる。
人間に例えると、反省文を書くか、死刑の２択になる。
僕はAI時代には、このルールは人間にも適用されるようになるだろう、と思っている。
犯罪に対する刑罰というのは更生という名の再学習を促すためであって、被害者の懲罰感情を満足させるためのものである。更生ができないのであれば、社会から隔離する。そういう整理が合理的だ。
軽微なルール違反についてはやってはいけないからペナルティではなくて、ペナルティを払えば、やってもいい。
AIという人間ではない行動主体があらわることにより、AIに対する責任の取らせ方を人間も真似をするようになる。
人間だけが責任を取れるんだと意味不明のプライドを主張しているのは、今だけで、すぐにAIはずるい。人間も同じにしろとなる。人間とはそういう生き物だ。
これを読んで思い出したのが、2017年ごろ、慶應義塾大学の新保史生教授が「AIに人格（法人格）を与える」可能性に言及していたことです。当時は、いまほど生成AIが一般化していなかったので、正直「制度論としては分かるが、ややSF寄りの挑発」ぐらいの距離感で聴いていました。
川上氏の"責任＝ワンクッション"論を見た直後に2017年の新保先生の主張を思い出すと、両者が別の方向から同じ論点（＝責任の置き場所）に触れていることが見えてきます。そして、その「責任」の話は、結局のところ我々の足元、つまり企業内の「法務」の役割そのものに刺さってきます。
AIは責任を取れない——では、法務は責任を取れるのか？
川上量生氏の「責任＝学習メカニズム」論
川上氏の投稿の肝は、責任を「道徳」ではなく「社会を成立させる装置」として説明した点にあると思います。
・人間に責任を取らせるのは、社会を成立させるために、意思決定に制約をかけるため
・自分勝手な意思決定をするとペナルティがある、という"教師データ"を事前に脳に与えるため
・問題を起こしたら、さらに再学習させる仕組み
そしてAIについては、目的から逆算してこう言い切ります。「つまりAIはなにも責任を取るというワンクッションを置く必要がない。」
責任を「反省」や「償い」の美談にせず、
・望ましい行動を事前学習させる
・失敗したら再学習させる
・再学習が難しいなら破棄（システムごと廃棄）
という、かなりドライな運用論に落とし込んでいます。
極端な比喩（「反省文を書くか、死刑の２択」等）には賛否があるでしょうが、"責任"を「人間の高貴さの証明」ではなく「制御の仕組み」として見ている点が、実務的に重要だと思いました。
新保史生教授の「AIに人格（法人格）を」論
時間を2017年ごろに巻き戻します。新保史生教授は、AI・ロボットの普及によって生じる社会問題（雇用・課税・社会保障など）を視野に入れた制度論の中で、次のような提案と問題提起をしています。
「今後AIが普及すると、人間の仕事が奪われると言われています。おそらくこれは現実になるでしょう。単純作業はAIが取って代わり、失業が生じるはずです。その時、社会は何をすべきでしょうか。一般的には、人間でなければできない仕事を探すべきだと言われます。しかし、私はまったく違う考えを持っています。AIに人格、法人格、権利能力を認めることを考えてもいいのではないかと思うのです。」（新保史生「ロボットと人工知能の普及と法的課題」DHU JOURNAL Vol.04 2017 39頁）
「法的な権利主体として「人工的」に設けられる人である「法人」のように、自然人たる人間が人工的に作り出した人工知能を「ＡＩ人（電子法人格）」とでも位置づけるなどして、新たな法人格（権利能力）の法的な位置づけを認めるべきであろうか」（2018年7月12日 第280回消費者委員会本会議 資料10頁）
ここで注意したいのは、新保先生の文脈は「AIを尊重しよう」「AIに人権を」ではない点です。法人が法律上"人"として扱われるのも、突き詰めれば法技術です。ならば、AIにも同様の"器"を与えることで、
・責任（義務）や負担（課税）を載せられるのか？
・契約の主体になり得るのか？
・「人」と「物」の区別を見直す必要が出るのか？
といった、制度の土台から考え直す必要があるのでは、との問題提起をされていたと認識しています。
川上氏が「責任はワンクッション」と言い、新保先生が「人格という器もあり得る」と言う。方向は違うようでいて、どちらも「責任とは、どこに置くかの問題だ」という点でつながっているように見えます。つまり、川上氏は、責任を"学習／制御の仕組み"として捉え直し、新保先生は、責任を"法技術（器の再設計）"として捉え直しているわけです。
「責任」の制度設計
この2つの意見を踏まえると、世にいう「AIは責任を取れないから人間には勝てない」論が、急に薄っぺらいものに見えてきます。
責任が重要なのは分かる。でも、その責任は、精神論としてではなく、制度設計としての「置き場所」問題として考えるべきだろう、と。そしてその問いは、企業内の「法務」にも、そのまま当てはまります。
ビジネス法務の現場では、しばしば"責任"という言葉がこう使われます。
「それ、法務として責任取れるの？」
「法務もOKって言ってたよね？」
「法務は何で止めなかったの？」
しかし、冷静に考えれば、法務部門は経営者が引き受けるべき責任を肩代わりなどしていない、というか、できる権限を与えられていません。違法あるいはグレーなビジネス行為であっても、実行する／しないを最終的に決めるのは、あくまで経営者（事業責任者）です。法務はどこまで行っても"判断材料の整備者"であって、"実行ボタンを押す人"ではないはずです。
川上氏は「責任を取るというワンクッションは要らない」と言います。これを法務的に翻訳するとこうなるでしょう。
・法務部門は、経営の意思決定にワンクッションを入れるために設置されている
・ワンクッションの目的は、意思決定の質を上げることと、事故確率を下げること
・しかし、意思決定の結果責任は、最後まで経営に残る
こう読むと、「AIは責任を取れないから人間法務は残る」という主張は、かなり苦しいものとなります。
関数化できない仕事とは何か
法務の仕事のうち、エージェンティックAI／AIエージェントができないことは、どれだけあるでしょうか。
・事実関係の収集（ヒアリング、証拠集め）
・規範の当てはめ（法令、ガイドライン、裁判例、当局運用、契約解釈）
・論点の言語化（争点整理、想定シナリオ、落としどころ）
・選択肢の提示（やる／やらない／条件付きでやる／代替案）
・記録（メモ、メール、稟議、議事録、契約書）
・監視（ログ解析、アラート、継続モニタリング）
・エスカレーション（必要なら止めにいく）
この大部分は「情報処理と言語化」作業であり、いずれもAIにも実行可能となりつつあります。
ここまでの整理を見て、法務の人間なら当然こう反論するでしょう。
法務は、単にルールというコードを実行する関数ではない。現実社会では、不完全な人間が、不完全な情報を持ち込み、欲や恐怖で動く組織の中で、確かなファクトを探った上で法的正義と利益のバランスを取る、泥臭い調整弁が必要だ。経営者が安心して責任を取れる状態を作るのが我々の仕事であり、そうした"活動"までをAIが代替できるようになるとは思えない、と。
それでもAIは迫っている
この反論には力があります。現場の泥臭さを知る人ほど、うなずくでしょう。
しかし、その「泥臭さ」の正体を分解してみると、
・事実関係が散らばっている
・関係者の利害が言語化されていない
・意思決定者がリスクの輪郭をつかめていない
こうした状況を整理し、判断可能な状態に持っていく作業です。それは確かに今の法務の中核的な価値ですが、やはり情報処理と言語化というAIが最も得意とする領域と重なっています。
では、それでも残る「ラストワンマイル」とは何でしょうか。2つの場面を考えてみます。
たとえば、コンプライアンス上の問題を発見したとき。事実の整理と法的リスクの分析まではAIでできるかもしれません。しかし、それを社長に直接言うのか、管掌役員を経由するのか、取締役会まで持ち上げるのか。タイミングは今日なのか、来週の経営会議まで待つのか。伝え方ひとつで、組織の動き方はまるで変わります。この「持っていき方」の設計は、社内の力学と人間関係を読む仕事であり、マニュアル化が極めて難しい領域です。
あるいは、紛争や契約交渉の場面。AIが複数のシナリオと想定損害額を出してくれたとしましょう。しかし、「この条件なら相手も降りられるだろう」「ここを譲ると次の案件に響く」といった判断は、相手の顔色、社内の温度感、会社が辿ってきた歴史、業界内でのキャラクターといった、センサーでは捉えにくい・ログに残りにくい情報の統合です。落としどころを「見つける」のではなく「つくる」仕事は、数値化・データ化できない文脈の読みに依存しています。
AIが選択肢を並べた"その先"で、どれを選ぶかに血を通わせる。ここに法務パーソンの不可欠な価値がある。だからといって安心するのは早いでしょう。川上氏と新保先生の議論が示しているのは、「責任」というものが人間の崇高さの証ではなく、社会を回すための仕組みにすぎないという冷めた事実です。仕組みである以上、設計次第で置き場所は変わり得ます。では、責任の制度設計者を自分が担うか、それとも誰かに任せるのか。
「法務の仕事がなくなるかどうか」——その問いの立て方自体が、もう古いのかもしれません。問うべきは、「自分はどこに立つのか」。AIが関数化できる領域が日々広がっていく中で、関数の外側にある判断を発見し、自覚的に選び取れるかどうかが問われていくことになります。
「AIは責任を取れない」は、安心材料ではなく、責任の再設計が始まっているという警告です。
