News

お知らせ

【CCRCインタビュー】 大学院法務研究科 山本龍彦教授 「デジタル空間とどう向き合うか」

デジタル空間の中で崩れつつあるもの
2021年日本でデジタル庁が発足し、国を挙げてのデジタル推進が始まった。しかしそれ以上に大きな力で、社会のデジタル化を推し進めたのが、2019年から始まったコロナパンデミックだった。人との対面が阻害され、世界中がデジタルに頼らざるを得ない状況になり、必然的にデジタルの恩恵に与ることとなった。
こうしてデジタル空間が私たちの生活に深く浸透する一方で、私たちの民主主義や自由に関わる大切なものが崩れつつあると警鐘を鳴らす教授がいる。憲法学者としてプライバシー権やAI、ビッグデータを研究されてきた、慶應義塾大学大学院法務研究科の山本龍彦教授だ。

 

インフラとしてのプラットフォーム
コロナ渦を経て、LINE、Facebook、Amazon、Google、Instagram、Yahooといった巨大デジタルプラットフォーム(以下、DPF)は、社会インフラとしての存在感を一層強めた。
SNSや、ニュース・動画の配信、ショッピングなどの場面でインターネット上に場を提供し、ユーザーがどんなことに興味があるかといったデータを、広告主に売るのがDPFのビジネスモデルである。自分が今何に興味があるかについて口にしていないにもかかわらず、自分の関心のあるコンテンツが画面に次々と表示される。私たちの心の動きは、プラットフォームを利用する限り常に読み取られ、見方によっては、私たちの行動はプラットフォームに操られているとも言える。山本教授によれば、このことが個人の権利を脅かし、さらには民主主義の根幹を揺るがしている可能性があるという。
その山本教授がこの状況に対して、国、プラットフォーム事業者、メディア、ユーザーといった各ステークホルダーが、今後どう対応すべきかについて意見提起した著書を今年の7月に出版された。デジタル空間にどのような問題点が存在していて、私たちは自らの権利や自由、そして健全な民主主義の実現のためにどうすべきなのか。山本教授には今回の著書と、現在携わっているプラットフォーム経済に関するプロジェクトのことを中心にお話を伺った。

 

(聞き手:鈴木)
山本教授がプラットフォーム(以下、PF)を研究対象とされるようになった経緯や理由を教えていただけますか。
(山本教授)
アルゴリズムの権力性に関心があったからだと思います。近代までの言論を規制する主体は国家権力で、検閲などを行なっていました。
現在ではPFがアルゴリズムにより、AIを使って問題のある投稿を削除する、順位付けを行う、おすすめのコンテンツを送るといった、言論空間の規制を行なっています。言論の規制者というよりも、言論の統治者といった方が近いのかもしれません。言論空間のルールがアルゴリズムに基づいて決められている状況に懸念を感じました。
今までは法というものが私たちの行動を規定し、拘束するものでした。しかし、私たちの行動を変容させ制限するものが、もちろん法もその一つですが、次第に民間PFのアルゴリズムに変わってきました。アルゴリズムにより行動を決められている部分があります。それは言論空間だけではなくビジネス空間も同じで、Amazonがどういう順位付けをするのかによって私たちが買うものは決まり、ビジネスサイドからするとAmazonにまず掲載されなければビジネスにならない現状があります。最近では、食べログでどのように店の評価がされるのかのアルゴリズムが、ブラックボックスになっていることが問題として裁判になりました。私たちのあらゆる行動がPFのルールすなわちアルゴリズムにより左右されています。そういう意味でPFは一つの権力主体になり始めています。
近代に移行する前までは、国家と個人の間に「中間集団」があり、その代表例が教会でした。教会が決めるルールと国家が決めるルールの二重のルールによって個人が拘束されていました。他にも、国家と個人の間には貴族や封建領主がいて、国家と個人の間にいろんな集団があり、それらの中間集団が重畳的に個人の行動を拘束していました。それが市民革命によって中間集団が否定、整理されて、国家と個人がダイレクトに向き合うようになります。国家が、ホッブスがかつて言ったようにリヴァイアサンという海の怪獣のような、非常に大きな権力主体になります。中世では中間集団が強く、国家は弱かったわけですが、近代になり中央集権化する中で君主が絶対権力を持つことによって国家が強くなりました。しかし、その国家が強くなりすぎてしまうと国民をいじめてしまうから、法を作って国家の権力を統制していく必要が出てくる。そのために作られたのが憲法という基本法です。
このように、かつては権力主体として想定されたのは国家だけだったわけですが、近年PFという新たな権力主体が立ち上がってきました。そうなると、PFがどうその権力行使をしているのかを、私たち国民は観察し、チェックする必要があります。国の法律とアルゴリズムがどういう関係に立つのかを見ておかないと、国際的な法秩序形成のあり様が正確に描けません。良い国際秩序を作っていくためには、PFの存在抜きには語れないと考えています。
元々AIやデータといったものに関心があり、PF権力の源はAIでありデータであるから、自然と私の関心はそこに向きました。PF権力をどのように統制していくのか、PF権力をどのように活かしていくと民主主義にとってプラスになるかという問題意識で、KGRIにプラットフォーム経済のPJを立ち上げました。PFにはフェイクニュースや誹謗中傷を生み出す要素がありますが、PFを上手く活かせば社会的課題を解決していける。そのような両義的な側面があります。その良い面を生かしていくためにどうすればいいのかが課題と考えています。
(鈴木)
巨大化するPF権力に対して危機感を感じていますか?
(山本教授)
危機感と希望が両方あります。
(鈴木)
PFを厳しく見つつも、その将来性に期待されているんですね。

(山本教授)
先ほど話したリヴァイアサンという海の怪獣ともう一つ対になる存在で、ビヒモスという怪獣が旧約聖書には出てきます。国とPFの関係は、リヴァイアサンとビヒモスの二つの力が拮抗している関係性に近いです。当初はPF権力に対して危機感の方が強くありました。しかし、2021年1月にトランプ大統領がトランプ支持者を煽り、彼らが連邦議会を襲撃する事件がありました。あの時、アメリカのデモクラシーは相当危険な状態にあったと思います。
トランプやトランプ支持者によるあのクーデターのようなものを誰が止めたかというと、これは様々な見方ができますが、その一つはPFだと思います。PF事業者はトランプと陰謀論者のSNSアカウントを閉鎖しました。その結果、反民主主義的な言動はある程度封じ込められ、アメリカの民主主義はかろうじて守られましたようにも思えます。この状況を見て、ビヒモス的存在のPFが強い力を持っているがゆえに、国家がおかしな方向に走るのを押さえられる存在であると感じました。PFは民主主義を壊す存在でもあるけれど、彼らが正義のためにその力を行使すると、民主主義や自由をその破壊者から守れる可能性があるということです。
他にも、アップルとFBIがやり合ったことがありました。FBIがあるテロリストの情報を得たいがために、そのテロリストのiPhoneの中を見ようとロック解除をアップルに求めたのですが、アップルはプライバシーを守るという観点からこれを拒否しました。これには賛否両論ありましたが、これを認めてしまうとスマートフォンがその後も安易にロック解除され、ユーザーのあらゆるデータが国家にとられることにもなり得ます。そういった捜査権限の濫用をアップルが止めて、ユーザーのプライバシーを守ったという見方もできます。
国がおかしな方向に進んだ時、それを本気で止めるためには「力」が必要で、PFがその力を持ち始めていると理解することもできます。国家権力をどう抑えるかが憲法学の課題でしたが、今の時代ではリヴァイアサンとビヒモス、つまり国家権力とPF権力の両方を見ながら、民主主義と自由を守るために、それらをどうコントロールしていくのかが、憲法学の新しい課題ではないかと思っています。ただそれは私一人でできることではなく、様々な立場からの知見が必要だと思い、プロジェクトとして立ち上げたということになります。
(鈴木)
PF事業者に対して政府が規則や制度を作ったら彼らは従わないといけないわけですから国家の方が断然強いと思っていましたが、今のお話を伺って、もはやPFは国と対等にやりあえる力を持ち始めているのでは、と思いました。
(山本教授)
これはいろんな見方ができますが、私の見方としては、国家に対して喧嘩を売れるくらいの力をPFは持ち始めてきたのではないかと思っています。Facebookのユーザー数は30億人くらいいて、様々な言語でサービスを提供していて、さらにMetaが稼ぐ額は、国家の総生産の額を超えている今、もはや一つの国家をはるかに超える力を持っていると言えます。その上、国家よりもよく我々人間のことをわかっています。人間のあらゆるデータを取れる訳ですから、その感情や考え方をコントロールでき、国家ができないことをできるとも言えます。それにPFが本気になったら戦争すらコントロールできてしまいます。ウクライナとロシアの戦争も情報戦のインフラはPFですから、PFがどちらかの味方につけば片方は負けるわけです。そう見ると、国家の方がPFより断然優位とは言えないと思います。
(鈴木)
それは危険だと思われますか?
(山本教授)
ヨーロッパはこの状況に強い危機感を示しています。ヨーロッパは「デジタル主権」という考え方を強く押し出していて、それは、デジタル領域においても国家、さらにいえばそれを構成する国民が主権を持たないといけないという考え方です。デジタル領域においてPFが強い力を持っていることに対して、強い危機感を持ち、その主権を国家や国民が取り戻す動きと見ることができます。EUではGDPRというかなり厳格なデータ保護法が作られ、デジタルサービスアクト(DSA)というPFを対象とした包括的な法も作られ、PFをコントロールしようとする動きが見られます。
ヨーロッパは民主主義がある程度成熟しているので、こうしたことが可能なのかなと思います。国家がPFに対して強い力を持つことは、国家に対して国民が信頼していないと難しいわけです。EUのデジタル主権は、国家あるいは民主主義への信頼を背景にしているように思います。他方で、中国とかロシアのように国が強くPFを押さえつけているのは怖いことです。アメリカは元々民主主義を高らかに謳い、頑張っていた国ですが、今は分断した状況で、国がPFを押さえつけることで国家が強くなりすぎることには警戒感もあるのではないでしょうか。
例えば、トランプ氏が再び大統領になったとき、国家がPFを抑えるということが何を意味するのかは予測しがたいものがあります。その場合、国家の暴走を止める役割をPFが果たすことはありうるのではないかと私は思っています。もちろんPFの権力濫用を国家が止めることも重要です。お互いがお互いをチェックし合う関係ができることが理想的な状況だと思います。この両者の睨み合いの構造をどう上手く作るかが、このプロジェクトの一番のテーマですね。
(鈴木)
ただ、PFはあくまで常にビジネス原則のもとで動いていますよね。
ユーザーの情報的健康のためにプラスになることをするのと経済的利益を天秤にかけた場合、PFが前者を優先する可能性はあるのでしょうか?

(山本教授)
重要な点だと思います。国が何も規制をかけないのは良くない。国家がPF事業者に対して何かしら義務付けていくことは必要です。そうしない限り、PFは経済的利益を最大化するような形で動き続けるでしょう。国がPFに対して公共的利益を実現するよう促すことがポイントとなると思います。それにはアルゴリズムの透明性を義務付けるのがまず重要です。
もう一つは、PFがある程度競争している状態が確保されないといけないと思います。一つのPFしかなければいくらアルゴリズムが透明化されてこのPFを利用するのは嫌だなと思ったとしても、ユーザーとして選択の余地はないということになりますから、ユーザーはNOを突きつけることはできません。この透明性と競争的介入が重要だと思っていて、そこで一定の競争が働けば、情報的健康を害するようなアルゴリズムを使っているようなPFは、市場において淘汰されることが期待できます。公共的利益のみ重視させるのはビジネスの世界では難しいですが、ある程度の公共的価値をPFに求めていく余地はあるのではと思います。PFにどう公共性を目指すように仕向けていくかも課題です。
(鈴木)
現状では、私たちが利用できるPFは限られていますよね。
(山本教授)
通信会社を思い浮かべるのがいいかと思います。日本では、ドコモ、ソフトバンク、auといった事業者が市場で競争しています。ソフトバンクがひどいことをすればドコモやauに乗り変えられる。逆も然りです。PFでも競争は限定されるでしょうが、3つ4つの事業者が競争している状況を確保することは可能だと思います。
(鈴木)
先ほどのアルゴリズムの透明性についてですが、国がPFに対してアルゴリズムの透明化を義務付ける制度を作ろうとした場合、PF事業者からは反発が予想されるでしょうか。
(山本教授)
ヨーロッパは透明性の確保をDSAによって強く求めました。もちろんPF事業者からは反発があったと思いますが、Facebookでの内部文書が報道され、彼らが内部で邪悪なことをしていることが世間に明らかになった中で、透明化は嫌だとPF事業者が表立って言いにくい状況ができつつあるのではないかと推測されます。
(鈴木)
DSA施行後、ユーザーはアルゴリズムを選べるようになるのでしょうか。
(山本教授)
はい。PFでニュースを見る時、基本的にはパーソナライズ化されたニュースが表示されます。そのユーザーが見たいものをAIが予測してリコメンドするわけです。そういう時のアルゴリズムを選べるようにすることや、そもそもプロファイリングをかけないで情報提供していく仕組みを作りなさいともDSAでは言われています。どんな情報を摂取するかに関するコントロール権をユーザーが持てるようになるわけです。
(鈴木)
それはとても画期的なことですね。
(山本教授)
そうですね。EUにはデジタル主権の考え方が背景に強くあって、PFが不透明な中でユーザーの行動や考え方をコントロールするのは良くないという考えが以前からありました。
また、EUの面白いところで、立法プロセスがそもそも民主的ではない点があります。立法提案権を持っている欧州委員会のメンバーは選挙で選ばれたわけではないので、非民主的な組織が立法提案権を独占しているとも言えます。EU議会も5年に1回しか選挙されません。EUレベルになってしまうと、民主主義とやや距離がある世界にならざるを得ません。そういう立法過程の違いもあってGDPRやDSAが実現したのではないかと推測します。
(鈴木)
山本教授は国のいくつかの検討会の委員を兼ねていらっしゃいますが、専門家として倫理的に見てこれはどうなのかという意見を提起されることで、国が動きそうな余地はあるのでしょうか?
(山本教授)
透明化に関しては可能性が高いのではないかと思っています。ただ、例えば電気通信事業法が最近改正されましたが、それはPF含む経済団体から強い反対があって、当初思ったような改正には至りませんでした。クッキー情報などの端末情報をサードパーティー(第三者組織)に流すことは、企業側がプロファイリングする上では重要ですが、そうした外部送信について、本人の同意を条件にすることを当初の案では盛り込んでいました。
しかし、PFを含む経済団体からの反対を受けてそこまで進みませんでした。外部送信について必ずしも同意までは必要とせず、通知・公表でもいいという話で終わったので、かなり後退してしまったと言えます。ただこういった、デジタル主権に近い動きを少しずつ積み上げていくことはできます。また、そういった動きを支持する国民の声も必要です。そうした世論を作っていくこともこの本の一つの目的でした。
私自身は、情報自己決定権や自己情報コントロール権、自分の情報に対して主体性を持つ権利、誰とどういう情報をシェアするかを決められる、そういった権利を基本的人権として確立すべきという立場なのですが、今回の改正ではそうした考えは後景に退いています。ファーストパーティーから何らかのサービスを受けたいから、自分の個人データを差し出すわけであって、別の主体であるサードパーティーにまでそのデータを差し出したいわけではない、こうした決定が完全にスルーされてしまいます。今の改正では不十分だと思います。

(鈴木)
今回の著書は一般人を意識して書かれたのでしょうか?
(山本教授)
一般の人に向けたというのはその通りで、そのために食べ物とのアナロジーを使って、偏った情報ばかり摂取つまり偏食していると、フェイクニュースや陰謀論に引っかかりやすくなるといったような話もしました。ただもう一つ読者として想定していたのが、PF事業者と既存メディアです。PF事業者に対しては一定程度規制しないといけないという気持ちと、頑張ってほしいという気持ちがあります。透明性は義務付ける必要がありますが、国家がPFのやることに強く介入していくのにはリスクがあると思っています。国家があまり規制をしなくて済むように、PFには自主的に公共性を考えた動きをしてほしく、それを促す意図もありました。また新聞や放送といった既存メディアに対しては、メディア本来の役割を果たしてほしいという気持ちがありました。
(鈴木)
現在の既存メディアは信用が落ちているとありましたが、それはどこに表れていますか?
(山本教授)
まず、新聞もテレビも以前ほど見られなくなりました。信頼がなくなっているというよりも、触れられなくなっているというのが正しいですね。新聞や放送は、実は栄養バランスを考えた「定食」を出していたのではないかなと思います。政治のニュースもあれば経済のニュースもあり、柔らかいニュースも、スポーツのニュースもある。そういう意味では「情報的健康」にとって重要な存在でした。ただ現状を見ると、彼らが存続していくには制度的な支援がなされる必要があると思います。しかし今のマスコミ批判が強い中で、マスメディアを守るような仕組みを国が作ったとしたら、多くの国民は反対するでしょう。だとすると新聞や放送も自己改革を徹底しないといけないと思います。
(鈴木)
新聞メディアがPFに負けているのは価格競争ゆえではないでしょうか?
(山本教授)
しかしだからといって新聞を無料にしたら国営新聞になってしまいます。今のように読者から対価を得る仕組みは維持しないといけないと思います。ただ、PFが新聞社の記事を安い価格で利用しているという現状も指摘されています。要は叩き売られているというわけですね。適正な価格をPFが新聞社に支払うように、両者の交渉力の格差を是正していくような法律がヨーロッパやオーストラリアでは法制化されてきています。そうすれば新聞は一定の収益を継続的に得ることができます。こうした循環が進む可能性はあります。
(鈴木)
ネットの世界ではアテンションエコノミーが蔓延っていますが、それに代わる経済モデルは出てくるでしょうか。
(山本教授)
それはまだわかりませんね。まずはアテンションエコノミーというビジネスモデルを知ること、つまり「気付き」が重要だと思います。私たちユーザーがどういう情報環境・言論空間に置かれているかを可視化する必要があります。それがこの本の中でやろうとしたことでもあります。そうした「気付き」があってはじめて、どういった経済モデルを次に作っていくべきか考えることができるのではないでしょうか。
一つポイントとなるのが広告ビジネスです。例えば、電通や博報堂といった大手広告代理店がどう動くかも重要でしょう。コタツ記事やフェイクニュースに対して広告をつけるのかどうか、彼らの動きがキーになると思います。彼らがお金のルートを遮断すればコタツ記事やフェイクニュースは儲からないわけで、書く人もいなくなります。そういう意味で広告ビジネスをどういうふうに今後改革していくのかも関係してきます。

(鈴木)
今日お話を伺うまでは、まず国が変わって、その後にPF事業者、メディア、最後にユーザーという順でないとなかなか今の状況は変わらないと思っていましたが、ユーザーレベルの方から意識が変わり、今自分たちがどのような情報環境に置かれているかを客観的に理解することも優先的に必要だと思いました。
(山本教授)
やはり相乗効果で、国がPFの透明化を法制度化するなど何らかのアクションを起こし、それが上手く回っていくには、ユーザーの意識、世論がその動きに連動していかないといけません。どこか一つが変わろうとしても、アテンション・エコノミーという、非常に根が深い構造を揺さぶることはできないので、各ステークホルダーが今の状況に気づき、何かおかしいという意識が醸成されていかないといけません。
(鈴木)
木村花さんの事件にしても、何か事件化した時に「誹謗中傷をした個人が悪い」と多くの人は思いがちですが、それだけではなくて根源はPFの仕組みにもあるということですね。
(山本教授)
はい。PFのビジネスモデル自体が、誹謗中傷を増幅・加速させやすい構造になっています。アテンションエコノミーでは刺激的なものが利益を生むので、人を攻撃させるものが儲かりやすいわけです。そういう構造では必然的に誹謗中傷は広がっていきます。誹謗中傷する人が第一に悪いのかもしれませんが、そういう状況にさせているのはこのビジネスモデルであって、構造自体を変容させていかないと誹謗中傷もフェイクニュースも減らないと思います。

(聞き手/文章 鈴木薫)

 

デジタル空間とどう向き合うか 情報的健康の実現をめざして (日経プレミア)
著者名  鳥海 不二夫 著、山本 龍彦 著
発行日  2022年07月13日
発行元  日本経済新聞出版

山本龍彦教授Profile

慶應義塾大学大学院法務研究科(法科大学院)教授。
慶應義塾大学グローバルリサーチインスティテュート(KGRI) 副所長。
1999年、慶應義塾大学法学部法律学科卒業。2001年、同大学院法学研究科修士課程修了。2005年、同大学院法学研究科博士課程単位取得退学。2007年、博士(法学・慶應義塾大学)。桐蔭横浜大学法学部専任講師、同准教授を経て現職。
司法試験考査委員、ワシントン大学ロースクール客員教授、内閣府消費者委員会専門委員、経済産業省ほか「デジタルプラットフォームを巡る取引環境整備に関する検討会」委員などを歴任。
現在、一般社団法人ピープルアナリティクス&HRテクノロジー協会理事、総務省「AIネットワーク社会推進会議(AIガバナンス検討会)」構成員、総務省・経済産業省「情報信託機能の認定スキームの在り方に関する検討会」委員などを務める。
主な著書に、『憲法学のゆくえ』(日本評論社、2016年〔共編著〕)、『プライバシーの権利を考える』(信山社、2017年)、『おそろしいビッグデータ』(朝日新聞出版社、2017年)、『AIと憲法』(日本経済新聞出版社〔編者〕、2018年)などがある。