【CCRCインタビュー】　総合政策学部　新保史生教授　「サイバー・フィジカル社会での法を考える」

ロボット大国日本

世界でロボット市場のシェアを大きく占めている日本。だが日本がロボット大国であることを理解している人は、実は少ないのではないだろうか。
AI（人工知能）を利用した製品・サービスやAIが搭載されたロボット（以下、「AI・自律型ロボット」）の利用において事故や問題が生じた場合、誰がどのように責任を負うのか。機械の「欠陥」であれば、製造物責任としてメーカーが責任を負うことになる。しかし、「AIやロボットの自律的な思考」によって誤った動作や判断がなされ、その結果トラブルが生じた場合は、誰が責任を負うのか。
また、AI・自律型ロボットが行動の判断材料としたデータの内容に誤りがあった場合はどうなるのか。こうしたケースを考えると現行の法律では解決できない可能性が出てくる。この状況に対して、将来起きるかもしれないトラブルに備え、AIやロボットをめぐる法的課題について話し合い、必要な法的検討や将来的な法整備に向けた備えを行っておくべきと説くのが総合政策学部の新保史生教授である。

AI・自律型ロボットをめぐる法的課題

新保教授は憲法、情報法、そしてロボット法を専門とし、湘南藤沢キャンパスで教鞭を振るう側、AIとロボットに関する法的課題の検討や新興技術の研究開発及び社会における利用にあたって必要な法整備の重要性を様々な所で提唱してきた。
法整備というと、新たなイノベーションに足枷をかけるイメージがあるかもしれないが、実際はルールがないがために、AI・自律型ロボットの社会実装や市場参入への躊躇がメーカー側で生じているという。
他にも考えなくてはいけない問題は山積している。ネットワークにつながれたAI・自律型ロボットが外部からの不正アクセスを受け、予期しない危険な動きをとり、トラブルが生じた場合はどうするのか。AIやロボットが収集した個人情報の取り扱いはどうするのか。
AIブームに乗じて新たな法的課題について議論がなされるようにはなったものの、これまでの法解釈では対応できない問題への対応や、新たな法整備によって生まれた課題についての話し合いが、十分に進んでいないと教授は指摘する。近い将来、私たちの日常生活にAI・自律型ロボットが浸透し、より身近な存在となりうるAIやロボットをめぐる法的課題について、新保教授にお話を伺った。

 

（鈴木）
最初にAI・自律型ロボットについて具体的に教えていただけますか。

（新保教授）
日本はロボット大国であり、これまで様々な分野でロボットの開発・製品化が行われてきました。産業用ロボットはプログラムされた範囲でしか動きません。モノを製造する際、モノを運ぶ・取り付ける・板金をする・ねじを締める、といった決まった動作しかしないのが産業用ロボットです。
一方、ロボット法の対象であるAI・自律型ロボットは必ずしもプログラムされた通りに動くわけではありません。指令者の命令を忠実に実行するとは限らず、自分で判断して動くことがあります。
身近なものだと、すでに家庭で普及している掃除ロボットが挙げられます。最初の掃除ロボットは動く動作や範囲が決まっており、その範囲内を延々と掃除するだけでした。しかし現在のAI・自律型掃除ロボットは、家具や床に置いてあるモノがあったら自分でそれを避け、汚れている箇所は丁寧に掃除します。
このように、自分で判断をして動くという「自律性」がある点が一番の違いです。他にも犬型コミュニケーションロボットのaibo(アイボ)や人型パーソナルロボットのPepper(ペッパー)が挙げられます。日本は産業用ロボットだけでなく、生活支援ロボットをはじめこうしたコミュニケーションロボットなどの分野においてもAI・自律型ロボットの開発に長年力を入れてきました。

（鈴木）
例えば、ロボットが人間に怪我をさせてしまった場合や物を壊してしまった場合は、誰が責任を負うのでしょうか。

（新保教授）
その場合は製造物責任法が適用され、ロボットを製造、加工、輸入した製造業者等が責任を負うことになっています。ロボット自体の欠陥や故障によるトラブルは製造業者等の責任ですが、AI・自律型ロボットは取り入れた情報を学習して動きます。その情報が間違っていた場合は、製造物責任法の対象は「製造又は加工された動産」に限られるため、誤った情報そのものは製造物責任法の対象にはなりません。
しかし、製造物と情報がつながることで動作する製品は身の回りに数多くあります。例として、古いカーナビが搭載された車を運転する場合を考えてみます。その場合、カーナビ上では川の上なのに、実際は道路を走っているという場合が生じます。このカーナビが、道路ができる前の地図情報をもとにしているためです。もちろんこの逆もあり得ます。
今は東京の日本橋の上に高速道路が走っていますが、将来的にはこれが全て撤去される予定です。すると撤去後も古い情報を搭載したままのカーナビでは、高速道路がない場所を走ることになります。今は人間が運転しているのでこうした場合でも、古い情報だからと判断して正しい道を走りますが、自動運転の場合、事故が起きる危険性があります。しかし、そのような情報の誤りが原因のトラブルについては、製造物責任法の対象にはなりません。
実際に、カーナビが表示したルート案内に従って運転したところ，道路が狭く草木がせり出していたため車両に損傷が生じたとして，カーナビ製造者等に損害賠償を請求した事例があります。福島地裁平成30年12月4日の判決では、地図情報に基づいてルートを案内するカーナビは、定期的にデータを更新するとしても、全国各地の道路の正確な状況をリアルタイムで情報提供するのは不可能か著しく困難であり、地図データ等が実際の道路状況や交通規制と異なる可能性があること、さらに、一定の地図情報等に基づき車両の走行が可能と考えられる道路を表示することで、運転者の判断を補助するものにすぎないことをあげ、ルート案内された道路を走行するか否かは、車両の運転者が実際の道路状況や車両の車種・形態等の事情を踏まえて自ら判断すべきものであり、カーナビの表示したルート案内は運転者の判断資料の一つにすぎないと考えるのが相当との判断が示されています。
つまり、今後AI・自律型ロボットや自動運転車が普及していく中で、判断や動きの元となる情報（データ）をどのように扱い正確性を確保すべきなのか、データが間違っていたらどうするのか、その場合誰がどう責任を負うのか、こうしたことを話し合う必要が出てきます。

さらにいうと、ロボットや車の場合は、実際のモノがあるので製造物責任法の領域になってきますが、昨今話題のアバターやChat GPTといったそもそもモノとして存在しないものに関連してトラブルが生じた場合は、それらに欠陥があっても責任を問うことは相当困難です。
つまり今の法制度のままでは、誤った情報によるトラブルや損害については自己責任でしかなく、情報の正確さや信憑性については、使用者が自分で判断をしなければならないという状況です。バーチャルで実体のないサイバー空間とリアルな社会であるフィジカル空間が融合した環境（サイバー・フィジカル社会）で、AIを利用した製品やサービスを利用する場合、すべて自己責任と言われてしまうと私達としては安心してAIを利用することができず、結果的に製品やサービスの提供にも支障が生じるおそれがあります。

 

（鈴木）
教授は2015年にロボット法新８原則を発表されましたが、その背景にはどういったお考えがあったのでしょうか。

（新保教授）
法学というのは非常に保守的な学問分野です。そのため新しい法領域を作ることに関しては極めて消極的です。つまりチャレンジが歓迎されにくい分野です。しかし世の中のチャレンジが、私たちの常識を超えて進みつつあるので、これまでの常識が通用しない社会状況が生まれてきています。オンライン授業やリモートワーク・テレワークなどにより、オンラインでの出席が当たり前の時代が来るとはコロナパンデミック以前は予想していませんでした。
こうした目まぐるしい変化の中で、これまで常識とされてきた法概念や法制度を問い直し、想定すらしていなかったことを前提に法解釈や新たな法律を考えなくてはいけない時が来ています。しかし、こうしたアプローチは法学として非常に不得手なことです。そもそも法の世界というのは、起きてしまった問題に対してどう対処するかを考え、それに対応するための法整備をするなど、このサイクルを繰り返しながら進んでいくものです。まだ問題が起きていない未知の課題に対して前もって新しい法律を作るということはできません。

しかし私は、2015年当時、慶應義塾大学の後期博士課程でロボット法についての研究を行い博士論文を執筆していた赤坂亮太さん（現在は大阪大学社会技術共創研究センター准教授）の研究指導を行う過程で、ロボット法の重要性について着想を得て、ロボット法学会（未設立）の設立準備のためのシンポジウムを開催した際に、これから世の中に出ていくAI・自律型ロボットに対して、法学者がきちんと向き合わなくてはならない時期が近く来るであろうと考え、その準備段階として、何を考えるべきかを方針としてまとめました。それが2015年に発表したロボット法新８原則です。
しかしこの原則を発表した当時、多くの人からの誤解と批判を浴びました。ロボットのことをよく知らないのにどうして規制するのかと、特にロボットに関係する産業界からは強い批判を受けました。
法というと一般的に「規制」のイメージが強いので、ロボットの進歩を規制する法律を作るのかと批判されたのは当然のことかもしれません。しかし、知的財産を保護するための法律を考えるとわかりますが、知的財産権が法的に保護されているからこそイノベーションを促進することができるわけです。近い将来法律家にとってAI・自律型ロボットをめぐる法整備の検討は不可欠な法領域になると当時考えていたわけです。その時に備えてロボット法に向き合うために、まずは将来的な議論の前提となる原則を考案したわけです。

 

（鈴木）
教授は自動運転をめぐる法的課題も研究されていると存じます。先日見たニュースで今年4月に改正された道路交通法が施行されることを知りました。その辺りについて教えていただけますか。

（新保教授）
世界的に見ても日本は自動運転における法整備は結果的にかなり進んでいます。日本では道路交通法の改正がこれまで度々行われてきました。2015年より政府はレベル４の自動運転車を公道で走行できるようにするための法整備を進めることを目標に掲げ、その後道路交通法の改正と道路運送車両法の改正を行いました。
それまでは、運転者が運転しないと車は動かせないことが法的に定められていたのですが、2020年4月に施行された改正道路交通法以降、自動運行装置を使って車を動かすことが可能となりました。同時に車の保安基準も改正され、一定の条件の下で自動車を自動的に運行させることができる装置を保安基準の対象装置として追加されるとともに、自動運転車を販売し公道を走行させることが可能となりました。
こうして人（運転者）とモノ（自動運転車）の法整備がなされたわけですが、次に出てきたのが、運転者がいない状態での走行です。そして2022年4月の道路交通法の改正（2023年4月施行）により、ついに無人運転の車も公道で走行することができるようになりました。これを「特定自動運行」と言います。自動運転による車両の公道走行を可能とする法整備は、自動車産業が活発な国においては既に検討がなされていますが、そのような世界的な流れのなかで完全な自動運転車の公道走行を可能とする法整備が日本では完了したことになり、これは世界的にもみても非常に進んだ法整備といえます。

（鈴木）
自動運転車についての日本での法整備が進んでいることに驚く反面、事故の可能性を考えるとこわい気持ちもするのですが。

（新保教授）
日本の自動車産業における技術開発とそのレベルが技術的に高度だという裏付けがあるからこそ、自動走行を可能とする機能や装置にも厳しい規制を課す法律が成立しています。日本車は信頼性が高く故障率が低いことから世界的にも大きなシェアを誇っているわけですが、壊れない車でありながら、自家用乗用車や軽乗用車の場合は新車登録から3年後に、その後は2年ごとに車検が必要であり、日本では車の保安基準がとても厳しいのです。そのため、中途半端な技術レベルの自動運転車は市場に出ることはなく、相当高度な技術レベルの自動運転車しか販売されません。
「自動運転に関する技術や法整備が日本は遅れているのではないか」と言われることが多いのですが、全くそのようなことはなく、日本は世界的にみても技術的にも法整備においても進んでいるのが現状です。
自動運転車という用語を国産車のメーカーは一般に用いないため気付いていない人も多いかもしれませんが、日本ではすでに自動運転の機能は「運転支援システム」という名前で広く普及しています。
日本人は石橋を叩いても渡らない気質があるので、AI・自律型ロボットについても、何か事故やトラブルがあった際の賠償問題をメーカー側がおそれて、市場への参入に躊躇する傾向がありますが、法整備とともに保険の活用によって損害が発生した時の責任の所在を明確化することで市場の活性化を見込めると考えています。

ただ、私がより懸念しているのはそもそもモノとして存在しないバーチャル空間におけるアバターやAIを扱う法学研究が十分になされていないことです。ロボットはモノなので製造物責任法が大方のケースで当てはまりますが、AIやアバターは違います。身近な場面で言うと、アバターとしての授業出席は認められるのか。他にも、アバターで国会に出席することは国会議員として認められるのか、そもそも出席扱いになるのか。相手がAIと知らずに交わした契約は有効とされるか。
ここでお手本となるのが2021年にEUが公表した「AI整合規則提案」（*1）で、この規制の仕組みを将来日本にどのように導入できるかが重要です。EUのAI規則が事実上の世界標準になっていくことが想定されるので、この規制の枠組みは目指すべき方向と考えています。この規則提案ではAIがサブリミナル効果を使って相手に何かを買わせることや、公的機関が社会的スコアリングを用いることが禁じられています。このような機能を持ったAIはそもそもEU市場に出せないことが定められています。日本はEUのAI規則提案が定める規制の枠組みをどう取り入れ法制化していけるのか、今後注目すべき点です。

（聞き手/文章　鈴木薫）

（*1）2021年4月に欧州委員会が公表したAI（人工知能）の利用を規制するEU（欧州連合）の法案である「AI整合規則提案」（人工知能に関する整合規則｟人工知能法｠の制定及び関係法令の改正に関する欧州議会及び理事会の規則提案）。 AI全般の活用を対象とした規制を明確にした世界初の法整備になる見通しで検討が進んでいる。

 

新保史生教授Profile

慶應義塾大学総合政策部教授
専門：憲法、情報法、ロボット法。
経歴：法政大学経済学部卒業、駒澤大学大学院法学研究科博士後期課程修了、筑波大学大学院図書館情報メディア研究科准教授を経て、2013年より現職。
情報法制学会代表、情報通信学会副会長、憲法学会常務理事、法とコンピュータ学会理事、総務省情報通信政策研究所特別研究員、情報ネットワーク法学会「ロボット法研究会」主査。
著書：ロボット法に関するものとして、Research Handbook on the Law of Artificial Intelligence, Woodrow Barfield, Ugo Pagallo（ed）, Edward Elgar Publishing（2018）、『ロボット法』Ugo Pagallo 著、新保史生監訳、勁草書房 (2018)