Homo Deus - 書評
2019年2月9日
「Sapiens」で、人類(Sapiens)が、他の生物を駆逐して、地球の支配者となる過程を綴った著者は、本作で、その人類が、自らが開発したバイオ化学と革新脳(AI)の成長により新たな問題に直面していることを示そうとしている。前作が、どちらかと言うと、それなりに知られた歴史事象を、新たな解釈により整理し直した感が強かったのに対し、本作は、最新の科学知識を駆使しながら、新たな未来を、「予測」としてではなく、「可能性」として提示することを意図している。その意味で、本作は、より著者の思索が前面に出ており、前作は、本作を書くための序章であったと理解できないこともない。
しかし、その議論は、論理的ではあるものの、やや極端な議論が表に出てきている。特に著者の結論である、最先端科学の発展により、人間は、自らの「本来的な自己」を喪失し、その運命の判断を、自身を越えた「アルゴリズムの網」に委ねることになる、という議論は、直ちに受け入れるのは難しい。そうした問題意識を持ちながら、著者の議論をもう一度整理、検討していきたい。
The New Human Agenda(序章)
前作の最後に触れられた、飢饉、疫病、戦争という災禍を克服した人類が、次にその技術力、経済力、政治力を何に、いかに使っていくか、という問題が、改めて提示される。その目標は、不死、幸福、そして人類が、創造と破壊を司る神聖な力を手に入れる=人類が神(超人類)となること。しかし、その動きが暴走する時、誰がどのようにそれを押し留めコントロールしていくか。その未来予測は、政治的宣言ではなく、歴史的な予測を前提に、現在の我々が自身の将来を如何に選択していくかという問題であるとする。この問題提示は、さしたる違和感もないし、現代の問題としては、ある意味ありふれたものである。
1, Homo Sapiens Conquers the World
環境に対する人類の支配力。特に他の動物に対しては、人類は既に神となり、それらを支配、廃絶してきた。それは、農業革命(それはまた、経済、宗教革命でもあった)、そして科学革命により、より残虐な動物支配となった、とするが、これも前著の繰り返しである。
しかし、著者は、人類の行動も、その他の動物の行動も、それが基本的にアルゴリズム(=一定の計算ルール)に従っているという点で差はない、という。それでは人類(とその輝き(spark))とその他動物を分けるものは何か?そしてアルゴリズムが、人類を越えることがあるのか(singularity:技術的分岐点)?その時、人類の運命は?
人類と動物を分けるものとしての「魂」。しかし、人類における「魂」の存在は、科学的に確認できていない。自然や生物の現象を説明する手段としての「魂」や「神」といった概念は、光の科学的説明で一時期想定された大気中の「エーテル」の存在が否定されたように、屑篭に捨てられることになろう。それに対し、「意識」の存在は否定できない。科学の発展により、人間の行動は、脳内神経の一連の動きと解明されているが、意識(恐怖や悲しみ、愛情等)がどのような科学(電気)反応の結果生じるかはまだ説明できていない。しかし、AIの発展により、例えば、自動運転車は、「意識」がなくても、機能するようになっている。従って、「意識」が、社会活動において重要ではない時代が来る可能性は高い。1950年代の英国の科学者チューリング(ゲイで強制去勢された)により提唱されたチューリング・テスト(コンピュータと人間を相手にブラインドで対話させ、どちらが人間かを当てる)。そこでは実験者がコンピュータを指定すれば、それはコンピュータが「意識」を持っているということになる(他者の意識の存在は、他者が判断するという例)。
しかし、意識の存在が、人間を他の動物と分けるものではない。他の動物も意識を持っているし、他の同胞を救済する行動をとることもある(ネズミを使った実験や馬の「賢いハンス」による対話者の観察等)。インテリジェンスや道具の使用も、人類に特別なものではなく、結局、人類を他の動物と分けるのは、多くの他者と柔軟に共同行動をとれる能力による。
結局のところ、人類を他の動物と分けるのは、その「想像力」。特に集団行動を可能にする擬制=幻想を作る能力が、人類の世界支配を可能とした。革命の要因=集団幻想の変動。主観、客観に加えて間主観の存在。間主観が、社会の共同幻想(金、紙、国家、企業等)をもたらす。「意味の巣=物語」。このあたりは、社会科学をちょっとかじった者からすると変凡な議論である。
2, Homo Sapiens Gives Meaning to the World
共同幻想を生み出す基礎となったのが、約3000年前に登場した文字とカネ。文字により物語を記録することと社会を公式化することが可能に。書かれた記録が力に。ポルトガルのボルドー公使館のソウザ・メンデスがナチから逃れたユダヤ人にビザを発行し続けた例(杉原と同じケース)や中国の大躍進の神格化(改竄された記録が事実となる例)など。官僚制は記録。聖書やコーランといった宗教経典が、その神話性や誤謬にも関わらず社会の統合に果たす役割を持っているというのも、ありふれた議論である。
科学と宗教は、一般に言われるように対立的なものではなく、補完的。また科学=事実記載、宗教=倫理判断、という境界は曖昧。現代とは、科学とヒューマニズムという宗教的ドグマが連携して作り上げた時代。しかし、これからの未来は、この合意/条件が崩れ、新たな合意/条件が生まれる可能性。
現代は、神話=意味が失われ、自然災害や社会問題への技術的対応が主たる課題に。疫病の拡大も、その対応技術の開発のための投資(資金)が力になる。
経済成長神話。しかし、その成長神話は、環境破壊を含めた副作用をもたらす。こうした野望に歯止めをかける新たな「宗教=失われたコスミック・プランの代替」としてのヒューマニズム。
ヒューマニズムでは、神の声といった権威ではなく、個々の人間の感覚が優先される。民主主義や商業主義、真実、正義、美(芸術)も、これにより判断される(M.デュシャンのトイレ)。しかし、人間の感覚は多くの不安定要素が。これを排除し、真実に至る公式(中世においては、経典×論理)が、経験×数学。しかし、この科学的手法は、価値と意味(倫理判断)についての解答は導けない。この回答を導く現代の公式は、経験×感度(sensitivity)。しかも、その経験と感度は、個人のレベルでの判断。中世の戦争絵画が、英雄に焦点をあてた上から目線であるのに対し、現在の戦争絵画は、個々の兵士に視点をそえる。それがヒューマニズムである。しかし他の宗教等と同様、ヒューマニズム(リベラル・ヒューマニズム)は1914年を境に分派し、20世紀に左右から脅かされる。左から社会主義ヒューマニズム、右から進化論的ヒューマニズム(ナチス)であった。しかし、1989年をもって、再びリベラル・ヒューマニズムが復活するが、それは他の分派が、テクノロジーの発展を取り込めなかったから。他の伝統的な宗教も、このテクノロジーを吸収する手段を持たないので、将来の成長の余地はない。しかし、科学の発展も、倫理判断においては宗教性を帯びざるを得ない。科学と宗教は、相互に連関している。そして、遺伝子操作や革新脳といった先端的テクノロジーが21世紀を主導していくとすると、 そのリベラル・ヒューマニズムのパッケージ(個人主義、人権、民主主義、自由市場)自体が過去の遺物となる可能性を秘めている。
3, Homo Sapiens Loses Control
リベラリズムの基盤は、個人の自由意思。しかし科学の進歩は、人間の魂のみならず自由意思も否定しようとしている。人間の行動は、脳内の電気化学反応が神経系に及ぼした影響の結果。自由な選択を行う「自我」があるかは疑問。ねずみの行動コントロール実験から人間の脳内刺激による行動コントロール実験の例。経験する自己と語る自己の分裂。後者(幻想による自己正当化=人生の意味付け)が前者を抑圧。しかし科学テクノロジーが日常生活の入り込むにつれて、「自由意思」は脅かされる。「自由意思」に基づく民主主義、自由市場、人権は生き残れるか?
21世紀の脅威は、@経済、政治、軍事での人間の役割の低下、A新たなシステムは個人ではなく、集団に価値を置く、Bその中で存在を許されるのは、平凡な人間ではなく、優れた超人間。
@ 知性と意識のデカップリング。高い意識を有する人間がエリートとして政治、経済、社会、芸術、文化を指導してきたが、それがAIのアルゴリズムにとって代わられるリスク。知性があれば、意識は不要。馬が車に取って代わられたのと同じ現象。AIが取って代わる職種として、軍隊、資産運用、弁護士、医師、薬剤師等々。AIは、意識はないが、対応する人の情感を分析する対応をすることが出来る。そしてAIのアルゴリズムを支配する一部の人間に権力と富が集中し、貧富格差が拡大する。AIの適用例(チェス、アルファ碁、病気の症例診断、リモート診断、DNA鑑定をもとにしたA.ジョリーの乳癌手術、Google Flu Trend、結婚コンサル、Facebookの「良いね」情報による性格診断ひいては選挙行動分析等々)。アルゴリズムが、助言者から支配者になる。
A 20世紀は、大衆の時代。国家を強化するために、健康な大衆に支えられた軍隊や労働力が必要。そのため大衆の健康や生活を高める必要があり、個人重視のリベラリズムは、その思想的な根拠となった。しかし、21世紀のバイオ化学の発展により、大衆全員の生活・福祉向上の必要はなくなり、一部のスーパーエリートに富が偏在、(大衆の時代の終焉)、リベラリズムも役割を終え、新しい宗教が。
B 新たな宗教=テクノーヒューマニズムとデータ宗教を担う超人(Homo Deus)は、遺伝子操作、ナノテク、脳-コンピュータ接続により、その目的を達成する。しかし、その超人は、その心を、未知の経験と意識につなげる高みを目指すが、その人間の心は複雑。それを読み解こうとする心理学的実験は、西欧の高学歴層のデータに依存する不十分なもの。そして新たなテクノーヒューマニズムは、そうした特権層の利益を高めるだけのものになる(貧困な病人を救うのではなく、裕福な特権層の健康寿命を長くするための医学)。その過程で、不要な感覚(嗅覚、他人への配慮、夢見る力など)は退化。テクノロジーは、内面の相反する声を抑圧し、効率的に目標達成を行うよう内面をコントロールしていく。そしてそこから生まれるもう一つの宗教が「データ教」。
バイオ化学と電子的アルゴリズムを結びつけるのがデータ。データ教徒は、人間の情報処理能力には限界があり、電子処理が圧倒的に優れているとする。またそれによれば、人間も動物も、経済システムも、全て形が異なるデータ処理のシステムに過ぎない。そのデータ・プロセッシングを管理する者が支配者となる。資本主義経済システムがソビエト経済システムに勝利したのは、前者の分散型システムが、後者の集中型システムよりも効率的であったから。しかし、21世紀は、テクノロジーの進化が加速し、新たなデータ・プロセッシングが求められる。例えば、サイバー空間が独立性を強めるにつれ、選挙や民主主義といった政治データ・プロセッシング方法は時代遅れとなる可能性がある。そして、既成の政治システムが機能しなくなると、既成の政治家もシステムのコントロールを行うことができなくなる。20世紀の政治家は、それなりの政治構想を有していたが、21世紀の政治家は、もはや自身の政治構想はもたず、新たな環境に受動的に身を晒しているに過ぎない。富豪も、偶々短期的なゲームに勝利したに過ぎない。それでは、こうした新たなテクノロジーの時代のデータ・プロセッシングを支配するのは誰か?それは実は、もはや人類ではないかもしれない。
人類の歴史は、データ・プロセッシングの対象の拡大(地域、民族や宗教)の歴史。そして現在のInternet-of-All-Thingsの時代に人類はそれを構成する道具の一部となり、(その自由意思は)消滅する。かつて人類は、「神は人類の想像の産物だ」と看破したが、今や「人類の想像は、ただのバイオ化学的なアルゴリズムだ」とされる。そしてテータ教徒は、「すべてのデータがオープンになり、シェアされること」が、新たな時代の核心であるとする。そこでは、個人が認識するよりもより「本来的な自己」が認識され、政治、経済、社会的な最適な選択、」判断が行われることになる。それを行うのはもはや個人の自由意思ではない。最後に残された問いは
@ 生命組織は、本当にただのアルゴリズムか?
A 知性と意識のどちらが、真に重要か?
B 意識はないが、はるかに優秀な知性が、我々自身よりも我々を知るようになった時、我々の社会、政治、日常生活に何が起こるのか?
以上が、(若干の個人的感想も挿入したが)この本の概要である。
ジョニーデップが主演した2014年の映画、「トランセンデンス」では、殺されたコンピュータ研究者の頭脳がスパコンにアップロードされ、それがネットワークを通じて支配者として君臨していく姿が描かれている。またダン・ブラウンの「オリジン」では、ディープラーニングにより進化していくAIが登場し、主人公たちの運命を決する活躍をする。こうしたテクノロジーが自立して、逆に人間を支配していく、というのは、SF映画や小説では一般的なテーマとなっている。そしてそれを歴史学者の立場で、人類の過去の成長の歴史を踏まえながら、人類が支配者となったまさにその技術力により、もうひとつの力の根源であった自我に起因する想像力が支配されていく可能性を提示したのが、この作品である。実際、幅広い科学知識を駆使した著者の議論は、科学技術の世界に身をおいている私にとってもたいへん刺激的なものであることは間違いない。
しかし、それを認めながらも、膨大なデータに裏打ちされたアルゴリズムが、人類を支配するところまでいくか、というと、著者には「楽観的」と言われそうだが、最後の判断を人間が行う、という部分は死守できるのではないか、というのが個人的な思いである。
著者の議論では、間主観が、社会の共同幻想(金、紙、国家、企業等)を生み出し、それが人間社会の発展の根源であった。そこでの間主観とは、人々が共通に信じる対象であったが、データ科学の発展により、そのアルゴリズムが導いた各種の現象が、人々の間主観により認知され、新たな幻想となり、事実上人間を支配していく、ということになる。
もちろん、巷で議論され、著者も触れているように、AIの発展により、現在多くの雇用を吸収している職種の多くが不要となることは当然である。そしてそこから放出された労働力、特にホワイトカラー労働力をどこで吸収していくか、というのは、新たな時代の大きな課題である。しかし問題は、そうしたアルゴリズムが主導する社会が、本当に人間の判断を拘束するところまでいくかどうか、という点にある。Google Flu Trendによる感染症拡大予測、結婚コンサルによる相手の選択、Facebookの「良いね」情報による性格診断を受けての行動、あるいは選挙行動の予測、といった事態に直面した際、人間の判断が介在する予知は本当にないのか?それに対しては、私は、こうしたデータの指示に対し、最後に判断をする人間の役割は残ると確信する。また社会科学の常識であるが、一定の予測が広がった際に、その予測を覆す反動も常に発生する。それが、自己実現的予言となるか、自殺的予言となるかは、まさに人間の判断に基づく行動に依存するのである。
科学技術は、常に政策判断に対しては中立的であり、それは平和目的にも戦争目的にも使用可能である。近代の人間の歴史は、常に進化する科学技術を、いかに使いこなしていくかという課題に、人類が立ち向かってきた歴史である。それは新たなデータ教が支配的になる近未来も変わることはない。最後の判断を下すのは人間、そしてその「本来的な自己」であり、それが人類の運命を決する最終判断となるのである。
(以下、英文での要約)
Exciting book. Following his 1st bestseller ‘Sapiens’, where he reconstructs and reinterprets the history of Homo sapiens by using well-known historical facts, Yuval Noah Harari here present the fate of Homo sapiens in the near future, not as prophecies, but as possibilities. Homo sapiens conquered the earth mainly by cognitive revolution now faces new challenges, which have been brought by the decoupling of intelligence and consciousness through the rapid advancement of biochemistry and AI. He insists that the Homo sapiens will sooner or later lose authentific self and big algorithm will take over them. In the new world, Homo Deus, Superhuman, conquers Homo sapiens as the later did to other species in the past. But I feel that Homo Deus won’t be humans, but will be just vague net of algorithm, which is released from human control.
In my view, here he definitely shows the new paradigm in the near future, but it will be controlled by humans in the end. Author might say that it’s just a wishful thinking and obsolete attitude, but I still believe that human will be able to choose his own fate with its own decisions. I still rely on the 20 century’s Existentialism as my standpoint.
以上