オープンな監視社会とデータの軍事利用:中国人が歓迎する信用スコアシステム

筆者は2018年の7月上旬に初めて中国を訪れた。旅の目的は「長空桟道」。中国五大名山の1つである崋山の標高2000m程の山肌に板を通しただけ道やその山肌をくりぬいて足場にしただけの道を渡り歩いていく、なんともスリリングな“世界一危険な道”を堪能してきた。しかし、この旅において最も驚かされたのは西安の街や人々の振る舞いであった。

父親が一時中国に赴任していたこともあり、彼から時折“中国人の実態”なるものを聞かされていた。スリが多いこと、金額を上乗せして吹っ掛けてくること、下水道に浮く油を掬い再利用していること等。よく聞きはするものの、いざその場に行くとしたら言語が不十分なため対策に困るものばかりだ。「いざとなったらどうしよう」と内心ビビっていたのだが、少なくとも僕が見て感じ取った限り、想定の180度異なる世界がそこにはあった。深夜の帰りのバスを乗り過ごしそうになっていた僕を助けてくれたり、興行のチケットを1元もごまかさず自らパしりになる同じ旅行客(中国人)がいたり、なんなら文字による交渉でタクシーも土産屋も相場より安くしてもらえた。なんとなく心地よかった。相変わらず日本人からすれば大声で会話するものの、笑顔を振りまき、困っている外国人に声を掛け、手を差し出し、気にかけたり。街も、もちろん観光地だからという理由も十二分にあるだろうけど、綺麗だった。夜道もホットパンツのねーちゃんがスマホにイヤホンして歩いているほど安全だった。

予想と違って、安心安全な中国(西安)だった。

さて、これが本当の中国なのか、それともラッキーな側面しか体験しなかっただけなのかはわからない(それだと記事的に面白くない)ので、その他の可能性ないし原因を探ってみたい。1つ手がかりとなりそうなことがある。西安の地下鉄で、もちろん危ない雰囲気は感じなかったのだが、同じく旅行者と見られる中国人(中国人は国内旅行が大好き)がリュックを後ろから前にかけ替えている姿をよく目にした。その様子は「ローカルを疑う」ような有様だった。もちろん、ローカルと思われる人々はそんなことしない。大抵友人と会話しているかスマホにイヤホンで安心しきっている。

あくまで仮ではあるが、もしかしたら「安心安全になったのはつい最近のことで、“田舎者”はその社会の変容に気づいていない」のかもしれない。そう仮定した場合、思い当たる節がある。ご存知、「信用スコア」の登場である。

“文理融合”を謳う筑波大学国際総合学類のモットーを律義に守った結果、興味の幅が広がりすぎて専攻選択時に苦労することに。あーでもない、こーでもないの果てに、電子政府国家エストニアに出会う。電子(理系)、政府(文系)の分野を発見にEureka!と大げさに叫び、学類卒業後そのままエストニアの大学院へ。最近は、もっと数学を勉強しておけばよかったと独学中。フィナンシェを口に含みながら啜るコーヒーは神。

ADVENT CALENDAR 2018―2日の投稿

12月1日から24日までクリスマスを待つまでに1日に1つカレンダーを空けるという風習に習って、記事を投稿するイベント、それがADVENT CALENDAR!

中国の社会信用スコアシステムとオープンな監視社会

中国の社会信用スコアとは、350点~950点のスコアが国民一人一人に与えられるもので(中国語では芝麻信用、セサミ・クレジットと呼ばれる)、国中の監視カメラの顔認証システムやAlipay(支付宝)などから得るデータを元にスコアの減点・加点が行われ、一定以上低いと国内の航空券が買えなかったり、反対に一定以上高いと低金利でのローンが組めたり敷金が免除されたりとの特典が付く。プロジェクト自体は2014年に始まったが、顔認証システムが導入され本格的に始動したのは2018年に入ってからだ。なお、このプロジェクトは2020年までのいわば“実証実験”に過ぎず、20年以降は今のところ未定である。

さらっと書いたが、つまり極端に言えば24時間政府や企業に監視されているということだ。

少し哲学や倫理に詳しい人ならこれを「ジョージ・オーウェルのBig Brother」だの「ベンサムのパノプティコン」だの非難するだろう。試しに「中国 信用スコア」とググってみてほしい。「ディストピア」、「光と影」といった“負の側面”が強調された記事を目にするはずだ。しかし、こういった批判はあまり的を得ていない。

Huang(2018)に依れば2000年来の朱子学が根付く中国において「プライバシー」という概念は存在しない。何かを“隠す”という行為は“アイデンティティーを守る”という西洋的意味にはならない。親密な関係を築くことを是とする朱子学において、“全てをオープンに打ち明ける”ことが推奨される。そのためプライバシーを主張することは「人には言えない、見せられない何か良からぬものを隠している」と見なされ、忌避される。言い換えれば、監視カメラ以前に人々の間で情報を共有し、相互監視ないし互助のような伝統が西洋から持ち込まれたプライバシーよりも大きな存在感を宿しているのだ。

Huang, Y. (2018, August 22). China’s use of big data might actually make it less Big Brother-ish, MIT Technology Review

日本から西安に向かう飛行機で偶然にも筑波大学卒業だという中国人と隣になった。電子政府を勉強している身として、この信用スコアに関心があったのでその時にどう思うか聞いてみた。その男性によると、概ね中国人はこのシステムを歓迎しているようなのだ。これには驚いた。

その理由は、僕らも教科書で習った“一人っ子政策”が起因している。当時(1979年~2015年)の中国政府は爆発的な人口増加に歯止めを掛けようと子供の数を制限したのだが、当然皆が皆守れるはずもなく、第二、第三子が生まれたのだが、政策に反するためその親は役所に届出ができなかった。そうなると、その子たちは市民権がないため教育が受けられない。読み書きが十分でない子がちょうど成人に達したのがつい数年前となるのだが、案の定まともな職に着くことができず、一部はアウトロー(暴力団)となって生きざるを得なくなった。13億人の人口を抱える中国において、この政策より戸籍の持たない人は1300万人に昇るという。1%もいるのだ。こうした人々はまともな(論理的な)コミュニケーションを取ることができないため、中国人が中国人を恐れる、といった事態が発生していたのだが、この社会信用スコアと監視カメラの登場により、劇的に治安が改善した、とのこと。

中国人4人にしか同様の質問をしていないので信憑性には欠けるが、4人とも皆このシステムに肯定的である。中には、

“これまでも共産党員による似たようなスコアリングはされてきた。それは人による半ば恣意的なものであったが、システムが導入された以上その指標は一定であるので、前よりもずっと公平だ”、

との意見もあった。至極まっとうだと思う。どうも「ディストピア」という感じではない。最も低スコアの人にとっては「ディストピア」かもしれないが、言ってみれば当然の罰を受けたまでで、それまでの党員による制裁と大差はないのかもしれない。

個人的には、プライバシーどうのこうのによるディストピア世界よりも、13億人超を識別し、管理できる技術を中国が有していることの方がディストピアに映る。

広がりを見せる顔認証システム

これまでは中国という文脈でシステムを見て来た。朱子学(と共産党)の文化が脈々と受け継がれている背景があるからこそ、西洋のプライバシー観は的を得ないと批判した。

しかし、最近になって驚いたことにユニオンジャックを掲げるオーストラリアが中国の監視カメラシステムを輸入するという動きが出てきた[Prakash, 2018]。オーストラリア政府の言い分としては「治安維持のため」である(このことからも中国の治安が改善したことがうかがえる)。もともとオーストラリアはシドニー空港などで顔認証システムを使用していたことから、今回の導入は自然な流れとも取れるが、それでもプライバシー保護を強く謳う西洋が中国のシステム導入を図ろうとしていることは意外ではないだろうか。“リーダー不在”の国際政治と言われるが、Prakash(2018)が述べるように、技術分野でさえ、もはやアメリカもEUも、そして日本もリーダーではない。もちろん、オーストラリアの件は決定事項ではなく、今後システムが人権やプライバシーに与える影響の調査や法的整備が今後必要になってくる。しかし、オーストラリアという大国がこの問題を加味する以上、続く第三、第四の国が現れても不思議ではない。

Prakash, A. (2018, November 09). Facial Recognition Model Spreads From China to Australia, Robotics Business Review

顔認証システム導入の本音

ここからはしばし筆者の推論を交えたものである。その点注意されたい。

「治安維持」というのは明らか過ぎて胡散臭い、と思っていたところ、「中国政府、18歳以下の秀才27名を軍事利用目的AI開発のために抜擢 [Stephen Chen, 2018] 」というニュースを目にした。心理学的には「持論に望ましい情報であるから飛びついた」となるのだろうが、それでも一計に値する。Stephen Chen(2018) は、単に中国政府が北京理工大学に新しい学科(軍事利用目的のAIの勉強及び開発を目的としたもの、世界で初)を設置し、候補学生5000人の中から最も優秀な27人を採用したものであり、アメリカを始めとする諸国の軍事利用目的AI開発競争1)Collins, K. (2018, November 08). Palmer Luckey: Silicon Valley shouldn’t dictate US military policy, c│net 2)Knight, W. (2018, October 15). MIT has just announced a $1 billion plan to create a new college for AI, MIT Technology Reviewに対抗したもの、とだけ報じており、上記で述べてきた社会信用スコアと監視カメラシステムには触れていない。

Post, S. C. (2018, November 08). China is recruiting its brightest high schoolers to build AI bots for the military,  BUSINESS INSIDER

軍事利用目的のAIがどのようなものであるかは定かではないが、なりふり構わず人類の絶滅を旨としたターミネーター的なものよりは、要人をピンポイントで識別把握し、最小限の被害に抑えるためにその要人を葬るというものの方が近いであろう(そうでないと、社会的バッシングに耐えられないし、開発・運用者本人たちが結局殺される)。そうである場合、何より肝心なのは要人を識別、追跡するためのAI開発に必要な質の高いデータとなる。

そのデータとして、社会信用スコア及び監視カメラシステムのデータを使用するのではないか、というのは「単なる憶測」と切り捨ててしまうにはもったいない。特に監視カメラによるデータは人間と地理的データが含まれた時系列データ(動画)である。単なる静止画とは違って連続である以上、ターゲットの識別だけでななく、ターゲットの次の動きのような予測をAIに覚えさせることが可能である。「最小限の被害にするAI」はどの国も喉から手が出るほど欲しいに違いない。中国やオーストラリアは「治安維持のため」とオープンにデータを集めようとしているのかもしれない。もしかしたら、かつてスノーデンが告発したようにアメリカを始め各国も水面下で同様のことをしているのかもしれない。

以上は仮説の域を出ないが、皆さんはどう感じるだろうか。
もう1つ、仮説を唱えさせて欲しい。

第2章、中国の社会信用スコアシステムの説明で「低スコアの者は国内の移動を制限される」と書いた。そう、「国外」ならば制限はない。低スコア者が国外を出る分には中国政府はお構いなし、というより、こう見ることはできないだろうか。

「隣国さん、うちの低スコアの国民がお邪魔して迷惑を被っているでしょう。いっそ、おたくもうちの自慢の商品、信用スコアと顔認証システムを導入されてはいかがですか?」と。

あとがき

なんともテーマとしては「クリスマスらしくハッピーなもの」ではないものとなってしまった。それでもこのテーマを書きたかった。以下の参考資料が全て英語であることにも理由がある。例えば、Prakash(2018)のオーストラリアの件については日本ではネットも含めほとんど報道されていない。一方で筆者が暮らすエストニアではこの夏参加国の首脳陣や政府関係者を集めてのデジタルサミットでは政府によるAIの利活用について話し合われた3)“Tallinn Digital Summit 2018.” Government of the Republic of Estonia, Republic of Estonia Government。そこにはマッキンゼーなどの大企業も招かれた。AIも一部のビジネスだけの利用に限らず、もっと大きな文脈での使用が本格的になってきたのだ。その先駆けとして中国がこの度の顔認証システムを導入し始めたに過ぎない。AIを利用する現場がこれまでの局所的ビジネスから移り変わってきている。

残念なことに日本と中国の歴史的関係から、中国での出来事を客観的に注視することは日本人は苦手のように思える。かのシステムも、もちろん見方によっては「ディストピア」や「影」のように捉えることもできるが、それでは事の本質を取り損ねてしまう。時には別の言語で情報収集することを勧めたい。

中国が日本とGDPで争っていたころ、両国間のイメージは最悪だった。十年にも満たない昔であるが、現在中国のGDPは日本の2.5倍である。その理由を単に人口が多いからと片付けてしまうのは惜しい。彼らは日本を尊敬し、学んできたのだ。

「海底撈火鍋」という中国のしゃぶしゃぶチェーン店がある(ちなみに最近海浜幕張のイオンにも上陸した)。もし中国に行く機会があったらぜひ訪れてほしい。というより、それ目当てでも中国を訪れてみてほしい。きっとその「おもてなし」にびっくり仰天すると思う。おしぼりひとつ取っても、口元用と手元用があり、口元用はウェットティッシュのようで仄かにレモンが香る。手元用はThe おしぼりだが、驚くことにおしぼり交換係が巡回しており、汚れると瞬時に取り替えてくれる。もちろん、温かい。しゃぶしゃぶもおしぼりの文化も日本が発祥なのに、おしぼりに関してはとても洗練されたサービスのように思えた。それ以外にも、メッセージ付きのデザートをタダでご馳走してくれたり、おひとり様で客単価の2倍食べたからか、帰り際にお土産もくれた。チェーン店でここまでのサービスができるお店を僕は知らない。

スマートフォンを使えば確かにあらゆる情報に瞬時にアクセスできるようにはなったが、その情報が必ずしもリアルなものとは限らない。ましてや“本音のような情報”はネットには載りにくい。炎上コワいもん。だからこそ、足を遣い自分の目や耳で得た情報を元に自分で考える能力はいつの時代も重要になってくる。実際に現地に行くのは難しいが、例えば身近な中国人に今回のことを尋ねてみることは物理的にはたやすい。今度は(というより常にであるが)僕らが彼らから学ぶ番だ。

この記事では客観的データ(ニュース記事)と主観的データ(中国旅行やインタビュー)を元に仮説を2つ立ててみた。もし普段目にするメディアとは違った視点を持っていただけたなら、幸いです。

References   [ + ]

1. Collins, K. (2018, November 08). Palmer Luckey: Silicon Valley shouldn’t dictate US military policy, c│net
2. Knight, W. (2018, October 15). MIT has just announced a $1 billion plan to create a new college for AI, MIT Technology Review
3. “Tallinn Digital Summit 2018.” Government of the Republic of Estonia, Republic of Estonia Government

ADVENT CALENDARとは、12月1日から24日までクリスマスを待つまでに1日に1つカレンダーを空けるという風習に習って、記事を投稿するイベントとなります。2018年、Share Study初開催!種々雑多な方々による記事、お楽しみください!


ABOUTこの記事をかいた人

Hiroki Kaminaga

“文理融合”を謳う筑波大学国際総合学類のモットーを律義に守った結果、興味の幅が広がりすぎて専攻選択時に苦労することに。あーでもない、こーでもないの果てに、電子政府国家エストニアに出会う。電子(理系)、政府(文系)の分野を発見にEureka!と大げさに叫び、学類卒業後そのままエストニアの大学院へ。最近は、もっと数学を勉強しておけばよかったと独学中。フィナンシェを口に含みながら啜るコーヒーは神。