商取引はBtoBからAtoAへ
望むと望まざるとにかかわらず、商取引はBtoBからBtoA（AI）へ、そしてその先のAtoAが視野に入る局面へと進んでいます。価格交渉、発注、入札、受注、支払。すでにAIエージェントが人間に代わってこれらの取引行為の一部を自動実行する場面は珍しくなくなりました。
たとえば、Walmartでは、AIを用いたサプライヤー交渉システムを導入し、支払条件や価格ディスカウント交渉を処理し、平均3%のコスト改善を実現したと報じられ、またHarvard Business Reviewでも導入経緯が紹介されています。
もっとも、ここで確認できるのは、現時点では主としてAIが人間のサプライヤー担当者と交渉するBtoAの先行例です。とはいえ、人間の担当者では手が回らなかった大量の少額取引先との交渉をAIが24時間体制で処理する世界がすでに実装されている以上、その延長線上に当事者双方のAIエージェント同士が直接やりとりして契約を締結するAtoAの局面が現れてくることも十分にありうるでしょう。
そうなれば、自社のAIエージェントが相手方のAIエージェントを「騙す」事案が発生することは間違いありません。虚偽の在庫情報を渡す。実際には存在しない競合見積もりをちらつかせる。価格交渉AIが利益を最大化するために、相手方AIの判断を意図的に誤らせる。このとき、それは詐欺罪になるのでしょうか？そして誰が罪に問われるのでしょうか？企業法務としては、「うちのAIエージェントが騙された」にも「騙した」側にもなり得ます。
詐欺罪は「人を欺く」罪──では電子計算機使用詐欺罪はどうか
日本の刑法246条に定められた詐欺罪の成立は、「人を欺いて」つまり騙され錯誤に陥る者が「人」であることが前提になっています。
しかしAIエージェントは、そのままでは欺かれる「人」ではないので、この条文をそのまま適用するのは難しそうです。では、まったく手がないのか？続く246条の2を見てみましょう。
前条に規定するもののほか、人の事務処理に使用する電子計算機に虚偽の情報若しくは不正な指令を与えて財産権の得喪若しくは変更に係る不実の電磁的記録を作り、又は財産権の得喪若しくは変更に係る虚偽の電磁的記録を人の事務処理の用に供して、財産上不法の利益を得、又は他人にこれを得させた者は、十年以下の拘禁刑に処する。
日原拓哉「AIの利活用における刑法上の諸問題」（立命館法学407号、2023年）は、この246条の2の立法趣旨をこう整理しています。
機械を不正に操作して人の判断を介在させずに財産上の利益を不正に取得する行為は、窃盗罪にも詐欺罪にも問えないことになる。本条は、このようなシステムを悪用する新たな財産侵害行為に対処するため、1987年改正により設けられたものである。（日原・前掲56頁）
「人を欺く」のではなく「電子計算機に虚偽の情報を与える」という構成なので、AI間取引の問題を考えるうえでは、246条よりもこちらがまず検討対象になります。日原はこの論稿で、まさにAIエージェントが「騙される」場面を正面から論じています。
電子商取引では、不正なデータを使用することや、オンラインショップでの価格表示の誤認でAIソフトウェア・エージェントが「騙される」可能性があり、その結果AIソフトウェア・エージェント利用者の財産損害が発生しうる。（日原・前掲55頁）
これは、BtoAないし将来のAtoA時代に生じうる問題設定とかなり近いものです。
しかし、これらの条文にもいくつかのハードルがある
問題は、AI間取引をそのまま刑法に乗せられるほど話が単純ではないことです。候補になるのは、電子計算機使用詐欺罪（246条の2）だけではありません。企業が使うAIであれば、電子計算機損壊等業務妨害罪（刑法234条の2）も視野に入ります。しかしながら、どちらも決め手にはならない可能性があります。
246条の2のハードル──「虚偽の情報」といえるか
246条の2の入口は、「虚偽の情報」を電子計算機に与えたかどうかです。典型例は、架空の入金データや盗んだクレジットカード情報の入力が挙げられます。では、「虚偽の在庫情報」や「存在しない競合見積もり」を価格交渉AIに食べさせた場合まで同じようにいえるのか？ここは論点でしょう。
最高裁令和6年7月16日判決は、「虚偽の情報」をやや広めに捉える余地を示しているようです。とはいえ、そのことから直ちに、交渉場面の虚偽説明まで246条の2で処罰できるとまではいえません。しかも同条は、財産権の得喪・変更に関する不実の電磁的記録の作成や、財産上不法の利益の取得まで要求しています。AIが不利な条件で合意した、というだけで足りるのかはなお議論が残ります。
234条の2のハードル──「人の業務を妨害した」といえるか
では、234条の2はどうでしょうか。
人の業務に使用する電子計算機若しくはその用に供する電磁的記録を損壊し、若しくは人の業務に使用する電子計算機に虚偽の情報若しくは不正な指令を与え、又はその他の方法により、電子計算機に使用目的に沿うべき動作をさせず、又は使用目的に反する動作をさせて、人の業務を妨害した者は、五年以下の拘禁刑又は百万円以下の罰金に処する。
こちらは「人の業務に使用する電子計算機」が対象なので、企業の業務用AIなら候補にはなります。ただし必要なのは、単なる誤判断ではなく、使用目的に反する動作をさせて「人の業務を妨害した」といえるかです。交渉AIがだまされて不利な契約を結んだ、というだけで直ちにこの罪になるわけではなさそうです。
逆にいえば、246条の2は「人の事務処理」に使う電子計算機が対象なので個人利用にも広がりうる一方、234条の2は業務用AIに寄った条文です。日原が指摘するのは、まさにこのズレです。業務用AIなら234条の2がありうるが、私的利用のAIは拾いにくい。他方、246条の2で拾おうとすると、今度は「虚偽の情報」や電磁的記録の要件が壁になります。
最後に立ちはだかるのは立証のハードル
そして、いちばん厄介なのはAIのブラックボックス性です。虚偽情報がAIの判断にどう影響し、どう財産移転につながったのか。そこに故意があったのか。日原も、AIの学習結果として不実の電磁的記録が作られることを事前に認識していなければ、電子計算機使用詐欺罪の成立は否定されうると指摘しています。
要するに、AIがAIを騙す場面で使えそうな条文がまったくないわけではないが、246条の2には「虚偽の情報」「不実の電磁的記録」「不法利益」といった壁があり、234条の2には「人の業務妨害」という壁がある。それらに加えて、因果関係と故意の立証が残る。現時点では、日本刑法にはまだかなり大きなグレーゾーンが残っている、というのが実情でしょう。
米国法ではどうか
対照的に、米国の連邦詐欺法は技術中立的に書かれています。
Wire fraud（18 U.S.C. § 1343）の構成要件の中核は「scheme to defraud（詐欺的スキーム）」と「wire communicationの使用」であり、日本の246条のように「人を欺く」が前面に出ているわけではありません。したがって、AIエージェントを虚偽情報で誤作動させ、相手方企業の財産移転を引き起こしたという類型は、少なくとも理論上はwire fraudの検討対象になりえそうです。
もっとも、そこで必要なのは依然として、他人から財をだまし取るためのscheme to defraud、故意、そしてwire communicationの使用です。単にAIが誤作動したというだけで、当然に詐欺になるわけではありません。
さらに、契約法の側では、UETA（統一電子取引法）がelectronic agent同士の相互作用による契約成立を認めています。もっとも、UETAは連邦法ではなく州法統一のためのモデル法であり、electronic agentの行為が誰にどこまで帰属するかも、当事者間の合意、周辺事情、他の適用法などを踏まえて判断されることとなります。法が一律に「AIの行為は常に利用者に帰属する」と決めているわけではありません。
こうした議論については様々な研究者から論稿が出されていますが、例えばMihailis Diamantis "Vicarious Liability for AI" (Indiana Law Journal, Vol.99, 2023) は、AIが損害や犯罪結果を生んだとき、AIを人格化するのではなく、利用者等に代位的に責任を負わせる理論を展開しており、まだ一般化はできないものの規範的提案として参考になります。
企業法務は何をすべきか
さて、日本の状況に立ち返って、企業法務として今日からできること・やるべきことは何でしょうか。
一つに、「AIが勝手にやった」では済まないものとして、責任の所在をあらかじめ分解して考えておく必要があります。刑事責任の場面では、設計・指示・運用・監督に関与した自然人の故意・過失が問題となりえます。他方で、企業には契約上・不法行為上・ガバナンス上の責任が問われうる。少なくとも、AIの行為を法的に完全な真空地帯に置くことはできません。だとすれば、AIエージェントに何を許容し、何を禁止するか、行動範囲の事前設計が不可欠です。
特に、相手方AIを騙すことにつながる設計をさせないこと。価格交渉AIに虚偽の在庫情報を渡すのは「賢い交渉戦略」なのか「詐欺的スキーム」なのか。その境界線は、今のところ極めて曖昧といわざるをえません。この点はグレーゾーンに踏み込ないよう、AI間交渉については保守的な設計ガイドラインを先に作っておくべきでしょう。少なくとも、自社AIエージェントが相手方（人にせよAIエージェントにせよ）を意図的に騙すようなプロンプトを与えることは、厳に慎むべきです。
もう一つ大事なこととして、「騙された側」の立証に必要な証跡を確保できるようにすることです。人間の知覚が及ばない電子の世界で、超高速で行われるAI間取引だからこそ、ログがなければ、そもそも被害の立証ができません。以前書いたDocument in the Loopの文脈でも述べたように、AIエージェント間の取引こそ、証跡が生命線になります。
刑法のLaw Lag（法の遅れ）解消を待っているわけにはいかない
日本の刑法は1907年、電子計算機使用詐欺罪も1987年の制定です。いずれも、AIがAIと取引する世界は想定されていなかったでしょう。
このLaw Lagを埋めるのは立法か、解釈か。いずれにせよ時間がかかります。とはいえ、企業法務としてはルールの変更を待つ受け身の姿勢では間に合いません。自社のAIエージェントが加害者にも被害者にもなりうるという前提で、今日から設計と証跡収集の仕組みづくりを始める必要があります。
すでに私たちは、AtoA時代の入口に差し掛かっているからです。
