波頭　ありがとうございました、政治の腐敗がかつてないほど表面化しても国政選挙の投票率がまったく上がらず、祝祭性の低い地方選挙の投票率がもはや20～30%にまで落ち込んでいる、そういう現状をどうするかという問いに対して、民主主義への懐疑や批判を越えてなされた「民主主義をやめてしまうのはどうか」という最後通牒的な提案には、たいへん考えさせられるものがありました。さまざまな意味でたいへん示唆に富んだプレゼンテーションでした。

茂木　本日のお話、僕もとても興味深く拝聴しました。早速いくつかお尋ねしたいんですが、まずぜひとも伺いたいのが身体性の問題についてです。現代のコンピューターの祖であるアラン・チューリングも、「人間の行動はアルゴリズムとして書き起こせない」ということを論文の中で述べています。近年ではこの論点は、AIをいかに人間に近づけていくかという問題に絡んで言及されることが多いわけですが、今回成田さんがお話しされていた内容とも、大いに関わるところだと思います。つまり、データ化されたものだけで人間の振る舞いを予測する難しさについて、成田さんも何かしらお考えを持っておられるだろうと思うんですが、そのあたりについてまずお話を伺いたいです。チューリング的な原理ではアルゴリズム化できない、人間の身体性に立脚する部分まで含めたアルゴリズム化を考えておられるのか、そうだとしたらその可能性はどれくらい見えておいでなのか、といった点は、ぜひとも伺ってみたいところです。

西川　そこは私も大いに気になっていたところです。つまり、ある種のアルゴリズムをチューリングマシン的な機械運動へと変換する、まさにAIを用いれば、汲み上げた一般意志を政策として伝えたり、それに合わせて機械を操作したりするだけなら、時間こそかかるでしょうが、今の人類の手持ちの技術の延長である程度可能だろうと思います。ただ、ここで成田さんが想定しておられるのが、個人というものの全体を一般意志の中に組み込むことなのか、それとも外から与えられた一個一個のクエスチョンに対して、今回のお話で言う民意データに基づいて得られた回答を、一般意志とみなしていくことなのか、そのどちらなのかは気になりました。というのも、エンボディメントされた全体を一般意志として拾うこと、無意識のようなものまで含んだ人間を一般意志化していくことは、たぶん医学的に見てもものすごく難しいと思うんですね。

成田　今のところ想定しているのは、西川先生のお言葉を借りるならば後者、つまり、クエスチョン構造やサーベイ構造のようなものをある程度外側から与えるしくみです。身体性の問題や、シングルブラインド的なあり方をとることに付随する問題は、今回の議論ではいったんすべて無視しています。

今回お話ししたのは、言ってしまえば意図的に単純化した議論で、要は「記号構造や人間の好み、意志、欲望の構造といったものを枠組みとして外側から与えられたチャンネルを、選挙というチャンネル以外にも大量につくってしまってはどうか」ということです。各チャンネルはそのチャンネルなりに歪みやハックされやすいポイントを含んでいるわけですが、そうしたチャンネルを何千何万と増やして足し合わせ・重ね合わせみたいなことを行っていけば、歪みや脆弱性を緩和できるはずです。それによって、少なくとも選挙という単一のチャンネルに依拠したしくみよりはマシなものができるんじゃないか、というのが今回お話ししたアイデアの大枠です。

西川　たしかにそこは、22世紀にもなれば技術的には完全に可能になっているだろうという気がします。ただ、もう一つ伺いたかったことでもあるんですが、たとえば「他国を侵略すべし」「特定のカテゴリーの人々を虐殺すべし」といった、ある種の正しさの感覚に従えば確実に是認すべからざる一般意志がアウトプットされたとき、そこにどうリミッターを効かせていくのか、というところは気になります。これまでは国家や資本といったものが、一般意志に対してそうしたリミッターをかけていく機能を担っていたわけですよね。そういう機能をどういうかたちで組み込んでいくのかは、考えていく必要があるように思います。

島田　「民主主義は衆愚に向かう」という古代ギリシャ以来の原則に立って考えるならば、偏りのない民意の収集やそのデータ化・アルゴリズム化は、現状の民主主義の改善につながるようでありながら、「そもそもみんな民意なんか持っているのか」「その民意に沿うのは妥当なのか」という問題をはらんでいるわけですよね。データとアルゴリズムで解決しようにも、アルゴリズムに投げ入れるデータそのものが貧弱だと、右肩下がりをよしとする現状維持や、破滅に向かうような極端な選択肢を是とする結論が出てしまうおそれはありそうです。

波頭　まさに、一般意志をすくい取ることができた結果として、すごく緻密に描写された衆愚政治のようなものが現実化してしまうリスクはあると思います。今よりもっと衆愚論的な方向に進んでしまう可能性は否定できないでしょう。

加えて、こうした機械化・アルゴリズム化の帰結として、いろいろ法律や政治的な強制が発生していくと、それこそピーター・ティールのような、アニマルスピリット的な資質を備えた非常識なものも台頭しにくくなるように思います。一般的に正しいとされていること、大多数の人が正しいと思うことを打ち破って新たなものを生み出す力が、抑圧されてしまうリスクもあるんじゃないかと思います。

一般意志を超えた正しさみたいなものをどう現実化していくかは、世の中においてすごく大事な話だと私は思うんですね。一般意志によって完全にコントロールされた社会が、必ずしもいいものだとは思いきれないところがあります。

成田　その点で言うと、民意データの入出力のあいだに噛ませるルールやアルゴリズムが、民意によらない客観的な正しさのようなものを組み込みうる部分になるだろうとは思っています。今回お示ししたモデル（図10）は、いわば「知的専制」「民意に基づく民主的な意思決定」「データや情報に基づく最適化」という3つを組み合わせたもので、(1)が民主的な意思決定に、(2)が客観的な最適化に相当しているわけですが、これら2つを実行するためのアルゴリズムの設計の部分が、ある種の知的専制・科学専制に相当しているという考え方に立っています。ここに客観的な正しさみたいなものをいかに組み込んでいけるかがポイントになってくると思います。

図10（再掲）

山口　東浩紀先生が『一般意志2.0』を出されたときにも思ったことなんですが、たとえばGoogleのアルゴリズムを政策決定のシステムに転用することに付随する問題として、Googleのアルゴリズム自体がものすごく秘密主義で、ある意味で権威主義的につくられているということがあるんですよね。要するに、アルゴリズムをつくる人がものすごい権力を持ってしまうおそれがあるわけです。民主と権威というものの構造を考えたときに、そこは結構危ないものをはらんでしまいうる気もしているんですが、成田さんはそのあたりをどのように見ておられるんでしょう。

成田　結局は、アルゴリズムの立憲運動みたいなものをいかに導入できるかだと思います。アナログ世界における憲法の場合も、それを制定している人たちや違憲審査権を持っている人たちが、強い権力を持ってはいるわけですよね。ただ、その憲法の中身が明文化されていて、それを変えるためのルールやアルゴリズム自体も公開されているので、ギリギリ均衡が保たれている。そういった意味で、ここでの議論を一歩前進させるために大事なのは、ルールとアルゴリズムをどうオープンソース化していくか、ということになるかと思います。

山口　とはいえ、内部の機構がオープンにされていたとしても、数学的な素養などのリテラシーをある程度持ち合わせた人でないと、そこで何が行われているか理解しきれないところはありそうですよね。そうすると結局はテクノクラートへと帰結してしまう。そこは結構悩ましいようにも思います。

成田　個人レベルの選択や意思決定が他者に委ねられてしまっている領域というのは、現時点でもかなり大きく存在していると思うんです。Apple Healthみたいなものに健康管理を委ねることを、意外と多くの人がよしとしている。そういう実態に鑑みても、結果がそこそこ満足なものでありさえいれば、手続きに関する正当性を意外と忘れられるのが人間という動物なんだろう、という気はしているんですよね。

ただ、内部で何が起きているかがアルゴリズムの提供者にしかわからないことは、たしかに問題だろうと思います。逆に言えば、それらを乗り越えられたら、今回お話ししたようなことを現実化する道は見えてくるんじゃないかと思います。

島田　政治にしても経済にしても、最適化を目指していくと最終的に一つの完璧なAIに集約されていく、いわばシンギュラリティ神話みたいなところに行き着くと考えると、その発想自体が一神教的・千年王国的に感じられるところはありますよね。かつ、山口さんのおっしゃったように、アルゴリズムの開発者が相当大きな意思決定のイニシアティブを取ることになっていくと考えると、アルゴリズムの開発者が独裁的・専制的な権力を手にしてしまうことは大いにありえそうです。つまり、民主主義の改良のためになされた試みによって、皮肉にもかえって独裁へと近づいていくことにならないかは、懸念すべき点だと思います。

ただ他方で、成田さんのおっしゃるように、すべてをアルゴリズムに委ねることにみんなが納得しまうことも、案外ありうるのかもしれません。完全な機械運動に統治を委ねるというビジョンから私がパッと思い浮かべたのは、最古の政治のかたち、つまり神権政治です。神殿に出向いて巫女からお告げを賜って、それにしたがって都市国家の次の政策を決定していく、といったしくみにおいては、どんな宣託が下ったとしても、みんな「神のお告げだからしょうがない」といった具合に諦めるなり納得するなりしてしまう。そういうあり方に回帰する可能性もなくはないのかもしれない、とも思います。

波頭　結局は、力を持つ者を独裁へと向かわせるネイチャーが、人間そのものに備わっているんだろうと思います。だから、社会主義や共産主義も最近のプーチンや習近平に象徴されるような方向に進んでいくし、資本主義も資本の独占が進むようなしくみに書き換えられていく。そうならないためのしくみをつくっても、それをさらに解体して独占に突き進むようなダイナミズムが働くんですよね。それはきっと人間のネイチャーゆえなんだろうと思います。

島田　ただ、特定の個人や集団が独裁的な立場に立ったときに、病気になったり狂ってしまったりといったバグ的な事態が起こるリスクはありますよね。

波頭　だからこそ、そういった特定の個人ないし集団による独占を防ぐために、人類は民主主義を発明したんでしょう。そういう経緯を踏まえても、民主主義そのものを超えるのは、方法論的には難しい話なんじゃないかと思います。