宍戸常寿・大屋雄裕・小塚荘一郎・佐藤一郎の4人が、有斐閣の『論究ジュリスト』誌上で行った研究会の様子をまとめた本になります。法学者の宍戸、大屋、小塚と工学者の佐藤の4人がコアメンバーとなり、1回につき2人のゲストスピーカーを迎えながら、AIがもたらすさまざまな変化と、それが法にどのような影響をもたらすのかを論じています。
基本的に座談会の形式なのですが、内容はかなりハードで座談会だからわかりやすいというものではありません。個人的に社会科学の中でも法学の本はほとんど読んでこなかったので、咀嚼しきれなかった部分もあります。
それでも頭のいい人たちが未知のものを検討する面白さというのはすごくあって、刺激を受ける内容です。メンバーの1人である小塚荘一郎『AIの時代の法』（岩波新書）のほうが読みやすいとは思いますが、さらに一歩踏み込んだ内容になっています。
本書の論点は非常に多岐にわたっており、全部をまとめることは不可能なので、以下、個人的に興味を引いた部分をいくつかとり上げてみたいと思います。
目次は以下の通り。
第１章 テクノロジーと法の対話
第２章 データの流通取引──主体と利活用（ゲスト：生貝直人・市川芳治）
第３章 契約と取引の未来──スマートコントラクトとブロックチェーン（ゲスト：岡田仁志・西内康人）
第４章 医療支援（ゲスト：江崎禎英・寺本振透）
第５章 専門家責任（ゲスト：橋本佳幸・森田果）
第６章 著作権（ゲスト：奥邨弘司・羽賀由利子）
第７章 代替性──AI・ロボットは労働を代替するか？（ゲスト：笠木映里・佐藤健）
第８章 サイバーセキュリティ（ゲスト：谷脇康彦・湯淺墾道）
第９章 フェイクとリアル──個人と情報のアイデンティフィケーション（ゲスト：成瀬剛・山本龍彦）
第10章 これからのAIと社会と法──パラダイムシフトは起きるか？
まず、第1章でも、まず自動運転の話がとり上げられているのですが、ここではディープラーニングにおける学習対象の問題や、責任の問題、緊急停止ボタンをどう考えるかということなどが論じられています。
ディープラーニングにとって学習データが重要ですが、例えば田舎道で学習したデータは都会では役に立たないかもしれませんし、日本で学習したデータを搭載した自動車はアメリカで問題を引き起こすかもしれません。
責任の問題に関しては、現在、自動車事故の責任は運転者に帰せられることが多いのですが、自動運転となれば製造者の責任がより追求されるようになるかもしれません。
現在のテストカーには緊急停止ボタンがついており、事故が起きそうになれば搭乗者がこれを押すことになっていますが、将来的にも緊急停止ボタンを設置して搭乗者に緊急時にはこれを押す義務を課すとなると、今度は視覚障害者や高齢者から自動運転の恩恵を奪うことになりかねません。
第2章のデータポータビリティに議論に関しては、個人的にそれほどピンときていなかった話なのですが、大屋氏の「世界を国民国家システムにと分割することに意義があるとすれば、それは離脱可能性の保障だというのは、法哲学でも有力な説なのです。データポータビリティを国籍移動の自由に宍戸さんがたとえられたのは、それを踏まえているわけですね」（67p）という発言は面白いと思いました（そして、ここからサイバー世界の境界と現実の国境の齟齬の問題も出てくる）。
第3章では契約の話がなされています。ここも難しい話ではあるのですが、AIによって今までの定型約款が個別の契約に置き換わる可能性が指摘されています。また、ビットコインのように技術文書はあっても約款がないケースもあり、こうなると契約そのものの存在が揺らいできます。
後半ではブロックチェーンとスマートコントラクト、仮想通貨などの話も出てきます。ここも難しい話なのですが、ビットコインのような純粋な交換価値のようなものは、差し押さえたりできるのかといった問題が提起されていて、興味深く感じました。
第4章では、医療支援の問題がとり上げられているのですが、まず目を引くのが江崎禎英経済産業省政策統括調査官の次のような発言。
実は一般の認識とは異なり、個人情報保護法は保護法益が「漠然とした不安の緩和」でしかないため、極めて緩い法体系にしてあります。もちろん立法技術的には、蟻の這い出る隙間もないように精緻な体系にしてありますが、同時に象が通れる扉を二つ開けてあります（*引用者：ここでの二つの扉とは23条1項1号の「法令に基づく場合」と本人の同意）。（中略）
本来「情報」は、誰かがそれを見て初めて価値の生ずる財です。また「情報」は転々流通することが前提であり、高度情報社会の根幹をなすものです。したがって、「これは私の個人情報だから、誰に見せるかも消去・改変するかも私に決定権がある」といった自己情報コントロール権は認めないという方針で法律を書ききってあります（109p）
「やはり」というか、経済産業省はこういった問題で相当前のめりなスタンスなのだなと思いました（ベネッセの個人情報流出事件を受けた改正個人情報保護法には批判的（112p））。
本章では、AIによる診断支援が行われるようになった場合、例えば「インフォームドコンセントは成り立つか？」といった問題が議論されています。インフォームドコンセントにおいて、医師が説明し患者が同意するという流れがあるわけですが、患者は必ずしも内容をすべて理解しているわけではなく、究極的には医師の人格を信頼して納得するような部分もあります。これがAIによる説明になると、そうはいかないかもしれません。
大屋氏が「プロフェッショナルの判断にもブラックボックス部分が相当あるわけですが、それで許されるのはなぜかと言うと、後付けであれ説明する口があるのと、切る腹があるからだという話」（138p）をしていますが、この「切る腹」というのはAIにはないものでしょう。
第5章の専門家責任の問題でも、まずは医師の責任問題がとり上げられています。この章では森田果氏が、「そもそも専門家は特別扱いされるべきなのか？（経営コンサルタントなどは専門家のようでありながら免許もなく誰でも名乗れる）」など、けっこう大胆な提言をしており、法のそもそもの思想を問い直すようなハードな話へと展開していきます。
第6章は著作権。ここではまずAIが学習するときのデータの著作権をどう考えるかという問題と、AIが作成したものが著作物になるのかという問題がとり上げられています。
基本的には防犯カメラが撮った写真に著作権がないように、AIのつくったものは著作物ではないと考えられますが、日本では著作人格権を法人にも認めており、そのあたりからAIに権利主体性を認める道があるのかもしれません。
さらに後半では著作権侵害にいてプロバイダー、プラットフォーム事業者の責任を求めるEUのDSM著作権指令についても検討がなされています。
第7章では、「AIやロボットが労働を代替するか？」という問題が扱われています。
まず指摘されているのが、その人が行う仕事の範囲がはっきりしていない日本の正社員はAIで代替しにくいという点です。一方で、正規と非正規の格差をなくすために職務を明確にしていくべきだという議論もあり、もしそれが実現すればAIによる代替は進みやすくなるかもしれません。
AIやロボットは人間から職を奪うかもしれませんが、同時に高齢者や障害者に雇用の場を与えることになるかもしれません。現在、重い障害を抱えていると考えられている人も、ちょうど目の悪い人がメガネを掛けて普通の生活ができるように、ロボットなどによって普通の生活ができるようになるかもしれません。
さらに本章では法実務にどれだけAIを活用できるのかということも検討しています。
第8章はサイバーセキュリティ。サイバー犯罪では、セキュリティの穴を突かれて攻撃された場合や、攻撃の踏み台にされた場合など、被害者であり、同時に加害者（とまで言っていいのかはケース・バイ・ケースでしょうが）であるようなケースも考えられます。その場合に責任をどう考えるかが問題になるでしょう。
また、国際関係の場では、サイバー攻撃に対して自衛権を発動できるかといった問題もあります。中国のサイバーセキュリティ法では、サイバー空間に「主権」という言葉が使われているそうで（280p）、今までの「自由なネット空間」とは違った空間が出現しつつあるのかもしれません。
第9章は「フェイクとリアル」と題されていますが、前半でGPS捜査、顔認証、プロファイリングなどの操作におけるアイデンティフィケーションの問題がとり上げられています。
多くの人は顔を晒して公然と移動しているので、例えば、電車で「今日もあの人が乗っている」と認識してそれをメモか何かに記録し始めたとしても、それはプライバシーの侵害とは言い難いでしょう。しかし、AIを使って大量のデータを処理するようになれば位置情報や顔認証でその人の行動を丸裸にできるかもしれません。
また、ここでは「見られたくない」という考えとともに、「見られたい」（見られることによって安全・安心を得たい）という考えもはたらきます。特に日本では、ヨーロッパに比べると後者が強く出てくる可能性も強いです。
さらに後半では、フェイクニュースや「AIに刑事責任を問えるのか？」といった問題が検討されています。
第10章はまとめになりますが、ここでは今まで「自律的な個人」というフィクションをもとに構成されていた法が、どのような変化を被るのかと言うとが話題に上がっています。また、今まで契約は自然言語によってなされていましたが、そのあたりも変わってくるかもしれません。
このように本書は盛りだくさんの内容です。ここでは、個人的に気になった部分を拾ってみましたが、他にも面白い部分はいろいろあります。特に法学の素養のある人が読めば、より多くの論点を読み取ることができるでしょう。
これからの社会を考えていく上で、非常に多くの刺激を与えてくれる本ですね。
