『スーパーインテリジェンス』
原題は『Superintelligence』
- 副題など
- 副題は「超絶ＡＩと人類の命運」
- 原副題は「Paths,Dangers,Strategies」
- 帯には「人類はＡＩを制御できるのか？ 滅亡を避けられるのか？」とありました。
- 著者など
- 著作者 ： ニック・ボストロム（Nick Bostrom）氏著
- 翻訳者 ： 倉骨 彰（くらほね あきら）氏訳
- 出版社など
- 株式会社日本経済新聞出版社 さん
- 版刷など
- ２０１７年１１月１版１刷。読んだものは、２０１８年３月２刷。
- ボリューム
- ７１７ページ。ただし、５６８～６５３ページは「原注」、６５４～６８５ページは「参考文献」、６８６～７１７ページは「索引」です。
感じたこと
『日本沈没』小松左京氏著を思い出しました。残念ながらコマーシャルは別として、私は、小説も映画も見ていません。この話を授業のはじめにしてから、理科の先生が地震のメカニズムを説明したことを覚えています。
日本を揺るがすほどの大きな地震がいつ起こるのだろう、と漠然と思っていました。そして、都市直下型の阪神淡路大震災から大きい地震が起きるようになった気がします。東日本大震災では、記録映像で津波の威力を知りました。いずれの地震も、突然に起こった気がします。
言い伝えや記録で、地震の威力は知ることができます。しかし、いつ起こるかの予知は、なかなか難しいようです。
コンピューターが進化し、意思を持った人工知能となる頃には、地震の予知はかなりの確率で当たるようになっているかもしれません。そして、地震の対策も進み、理想的な災害用の避難シェルターが人工知能によって作られているかもしれません。これは人間に好意的な人工知能によってなされることでしょう。
人工知能が意思を持つとはどういうことなのか、理解に苦しみます。人間には、生物として本能があり、生きようとします。人工知能の本能とは何か？ 真理の追究、知識・知恵の絶対者への追求、・・・。そもそも、人間の価値観を受け入れるのでしょうか。
人工知能にとってみれば、人間は生みの親ですが、血がつながっているわけではありません。人工知能から見れば、人間は自然や生物の１つに過ぎません。天災が起こり、人間社会に大損害があっても、それが自然の成り行きと判断するかもしれません。
自然に反するとして、人工知能そのものが自らを機能停止に追いやるかもしれません。逆に、すべての自然は人工物で構成されるべきとの傾向を示すかもしれません。
子どもの時に見たテレビ漫画にもコンピューターを取り入れたものがありました。その中でも、ウルトラセブンの『第四惑星の悪夢』やDr.スランプアラレちゃんは意味深長です。
ウルトラセブンの『第四惑星の悪夢』は、まさに、スーパーインテリジェンスへの恐怖と言えます。機械が人間を支配管理する世界です。決められた砂糖とクリームの分量を間違ったことを機械人間にコーヒーを淹（い）れた人間が咎（とが）められます。正確な動作を機械も人間も求められるのです。
Dr.スランプアラレちゃんでは、アラレちゃんがウンチに非常に興味を持ちます。アラレちゃんはロボットですからウンチをしません。人間なら肛門期がありますが、アラレちゃんにはないようです。このことはクオリア（qualia）に関わっているようです。データに基づく処し方と、五感と第六感で感じる質感には、自ずと違いがあるようです。
人工知能の可能性はいろいろに想像できます。しかし、いつそれが起こるのかは、地震と同じで予想がつきません。そして、たいていは想定外の事態が起こります。
話しは変わりますが、笑いは人間の感情の中でも特別なものだと聞きます。もし、人工知能が笑いをクオリアとして感じるなら、人工知能と人間は共存関係を築いているかもしれません。
この書物を選んだ理由
新聞の書籍紹介にありました。スーパーインテリジェンスとは何か？ 人類は、スーパーインテリジェンスによって滅ぼされる運命にあるのか？ 何が書いてあるのか興味を持ったので読むことにしました。
私の読み方
５５６ページに、本書の読み方の注意書きがあります。「・・・紙面の配分を頼りに、私の考えの何たるかを推察することはできない」。簡単にいうと、完読して推察が可能になる、と言うことでしょうか。
弊サイトは、本を精読しても、著者の主張を１００％理解することは難しいと考えています。その理由は、感じ方、価値観、知識や知恵、経験など、同じ感覚を持つ人がいないからです。読んだ感想は、読者に内在するものを反映したり通したりするので、著者の主張とは食い違って当然です。また、同じ本を読んでも、先ほどの理由により、読者によっても違うのです。
本書には、さまざまな分野からの言葉が出てきます。著者は広い知識を持っていますが、読者が著者と同じレベルにあるとは思えません。また、時の流れで、取り扱ったことや読者の感性が変わることもあります。
読みづらい本でした。読んだもの№５１『日本政治思想史研究』と同じ感覚がありました。言葉の問題、価値観や流儀の問題です。
スーパーインテリジェンスは、最近の言葉であり、感覚として馴染みがありません。同時に、その考え方や価値観に慣れていません。
本書に特徴的なのは、言葉遣いです。「考えられる」「かもしれない」「であろう」「思われる」などです。断定ではなく、推定や仮定なのです。何が確かなのかが、素人にはわかりづらく、内容に疑心暗鬼を生じるのです。断言できることが少ないのです。仮定＋推定＋予想では、何を頼りにしたらよいのかわからなくなります。
形式です。
文字は小さめですが、行長、行間、余白が適当で、見やすくなっています。
原注は、数と記述が多く、ページを繰るのが面倒くさく感じました。原注を見開きページの左端に置くか、下の余白にすると見やすいと思いました。一番よいのは、本文に溶かし込んだ著述だと読みやすかったと思います。
「Box」は、横書きですが、複数のとき、ページが溯るのに違和感がありました。理由はわかりませんが、なぜか読みづらかったです。
索引、参考文献があるのは、頼もしいと思いました。
本書が、卓上版の国語辞典と同じ厚みなのには、驚きました。著者が優秀な方であることはわかったのですが、出来の悪い私には、理解に苦しむ１冊でした。
読書所要時間など
- 総所要時間（読み始めから編集終了まで）
- ３３日１３時間１５分
- 読み始め
- ２０１８（平成３０）年７月５日（木）午前９時１６分～
- 読み終わり
- ２０１８（平成３０）年７月３１日（火）～２２時５８分
- 一通り読んだ時間
- ２６日１３時間４２分
- 編集終了
- ２０１８（平成３０）年８月７日（火）～２２時３１分
- 読んだ範囲
- 本書、カバー、帯。「原注」はその都度読みました。「索引」は必要なときに使いました。「参考文献」は見ていません。「著訳者紹介」と奥付は軽く目を通しました。
取り上げられた書物など
- 『プリンキピア・マテマティカ』 ホワイトヘッド氏＆ラッセル氏共著
- 『ゲーデル、エッシャー、バッハ－あるいは不思議の環』 ダグラス・R・ホフスタッター氏著
- 『戦史』 プロコピオス氏著
調べたこと
- １ 超絶（ちょうぜつ）
- ２ ＡＩ（artificial intelligence）
- 人工知能。
- ３ 人類（じんるい）
- ４ 命運（めいうん）
- ５ 黄昏（たそがれ）
- ６ 相槌（あいづち）
- ７ 長老（ちょうろう）
- ８ 食無尽大穀殿
- 調べましたが、わかりませんでした。
- ９ 喝采（かっさい）
- １０ 宣う（のたまう）
- １１ 汎用知能（はんようちのう）
- 本書では「一般知能」。
- １２ スーパーインテリジェンス（Superintelligence）
- 本書では「超絶知能」。
- １３ 封印（ふういん）
- １４ カタストロフ（catastrophe）
- カタストロフィ。破滅的な結末。
- １５ 帰無仮説（きむかせつ）
- 統計的仮説（とうけいてきかせつ）。
- １６ シンギュラリティ（singularity）
- 本書では「技術的特異点」「特異点」。インターネットでも調べました。
- １７ タイムライン（time line）
- １８ 拇指対向性（ぼしたいこうせい）
- インターネットで調べました。
- １９ 稠密（ちゅうみつ）
- ２０ ギアアップ（gear up）
- 促進する。インターネットで調べました。
- ２１ 更新世（こうしんせい）
- ２２ 喧伝（けんでん）
- ２３ 歓待（かんたい）
- ２４ 経世代
- 調べましたが、わかりませんでした。
- ２５ 最尤法（さいゆうほう）
- インターネットで調べました。
- ２６ グランドマスター（Grandmaster）
- チェスの最高位のタイトル。
- ２７ ドラフト（draft,draught）
- 草稿。
- ２８ コーパス（corpus）
- ２９ ソルバー（solver）
- インターネットで調べました。
- ３０ ニュースフィード（news feed）
- インターネットで調べました。
- ３１ HLMI（human-level machine intelligence）
- 本書では「人間レベルの人工知能」。
- ３２ 何はともあれ（なにはともあれ）
- ３３ 姿形（すがたかたち）
- ３４ エミュレーション（emulation）
- 本書では「模倣」。
- ３５ 剽窃（ひょうせつ）
- ３６ スピルオーバー（spillover）
- 本書８１ページに解説があります。派生効果。
- ３７ フィックス（fix）
- ３８ そろそろ
- ３９ ヌートロピック（Nootropic）
- 向知性薬。スマートドラッグ（smart drag）。
- ４０ 逓減（ていげん）
- ４１ エピジェネティック変異（epigeneticsへんい）
- インターネットで調べました。
- ４２ ジェノタイピング（genotyping）
- インターネットで調べました。
- ４３ 須く（すべからく）
- ４４ 撹乱（かくらん）
- ４５ スプライシング（splicing）
- ４６ 筐体（きょうたい）
- ４７ 律速（りっそく）
- 参考：ボトルネック（bottleneck）。インターネットで調べました。
- ４８ ホリスティック（holistic）
- ４９ フィードフォワード（feedforward）
- 前もって行う制御。参考：フィードバック（feedback）。インターネットで調べました。
- ５０ オーバーヘッド（overhead）
- インターネットで調べました。
- ５１ レスポンスレイテンシー（response latency）
- ５２ ミッション・クリープ（mission creep）
- 本書では「目標漸変主義」。インターネットでも調べました。
- ５３ 改竄（かいざん）
- ５４ 熟議（じゅくぎ）
- ５５ 緩進
- 調べましたが、わかりませんでした。
- ５６ 薄鈍（うすのろ）
- ５７ ちょくちょく
- ５８ 先史（せんし）
- ５９ 基質（きしつ）
- ６０ ウェットウェア（wetware）
- 本書では「生体脳」。インターネットでも調べました。
- ６１ インスタンス（instance）
- わかりませんでした。インターネットでも調べました。
- ６２ 不応性（ふおうせい）
- わかりませんでした。インターネットでも調べました。
- １４２ページに、「応答性」を引き合いに出しています。
- ６３ 超凡（ちょうぼん）
- ６４ クロスオーバー（crossover）
- １６１ページの括弧書きでは、「境目」。１６２ページでは「交叉点」。
- ６５ セキュア（secure）
- ６６ 根城（ねじろ）
- ６７ アウトサイダー（outsider）
- ６８ 地政学（ちせいがく）
- ６９ ベースレート
- わかりませんでした。インターネットで調べました。
- ７０ カスケード（cascade）
- ７１ 収穫逓減（しゅうかくていげん）
- ７２ 選抜（せんばつ）
- ７３ スループット（throughput）
- ７４ 脆弱（ぜいじゃく）
- ７５ ボットネット（botnet）
- インターネットで調べました。
- ７６ リフトオフ（liftoff）
- ７７ シングルトン（singleton）
- １８８ページでは「単一の存在」。インターネットなどで調べました。
- ７８ フロントランナー（front runner）
- ７９ 利する（りする）
- ８０ サーベイランス（surveillance）
- ８１ 曰く付き（いわくつき）
- ８２ はったり
- ８３ 上程（じょうてい）
- ８４ 非総効用関数
- 調べましたがわかりませんでした。
- ８５ 有界効用関数
- 調べましたがわかりませんでした。
- ８６ 非効用最大化決定法則
- 調べましたが、わかりませんでした。
- ８７ コーディネーション問題
- インターネットで調べました。
- ８８ 安穏（あんのん）
- ８９ 堆積（たいせき）
- ９０ アソシエーション（association）
- ９１ ヒューリスティックス（heuristics）
- ９２ イロレーティング（Elo rating）
- インターネットで調べました。
- ９３ アウトカム（outcome）
- 成果。
- ９４ フェーズ（phase）
- 本書では「段階」。
- ９５ 羽虫（はむし）
- ハジラミ。
- ９６ アセンブラ（assembler）
- インターネットで調べました。
- ９７ バイアル（vial）
- ９８ マニピュレーター（manipulator）
- インターネットで調べました。
- ９９ ファブリケーション（fabrication）
- １００ 末裔（まつえい）
- １０１ 賦存（ふそん）
- インターネットで調べました。
- １０２ オニールシリンダー（O’Neil cylinder）
- インターネットで調べました。
- １０３ コンプロトニウム
- ２６３ページには「プログラム可能な物質」とありました。
- １０４ アクチュエーター（actuator）
- １０５ 収斂（しゅうれん）
- １０６ ラメラ（lamella）
- インターネットで調べました。
- １０７ 贔屓（ひいき）
- １０８ エージェント（agent）
- 本書では「行為者」。
- １０９ 損なう（そこなう）
- １１０ エンハンスメント（enhancement）
- １１１ ダッチブック論証
- ２３７ページに解説があります。
- １１２ コミットメント（commitment）
- どの意味に該当するのか、わかりませんでした。
- ５３６ページでは、文脈から「主義」や「主張」とでもなるのでしょうか。
- １１３ ラッダイト運動
- １１４ 片務（へんむ）
- インターネットで調べました。
- １１５ 裨益（ひえき）
- １１６ 還元主義（かんげんしゅぎ）
- １１７ 面従腹背（めんじゅうふくはい）
- １１８ 憶説（おくせつ）
- 臆説（おくせつ）。
- １１９ 坩堝（るつぼ）
- １２０ 狡知（こうち）
- 狡智（こうち）。
- １２１ 悪巧み（わるだくみ）
- １２２ 偏屈（へんくつ）
- １２３ インスタンシエイション
- 本書では「唯一無二の例化」。
- １２４ 灌流（かんりゅう）
- １２５ マリグナント（malignant）
- 有害な。
- １２６ ビナイン（benign）
- 優しい。
- １２７ ペーパークリップ（paper clip）
- インターネットで調べました。
- １２８ ベイズ推定（Bayesian inference）
- １２９ 予覚（よかく）
- １３０ マインド・クライム
- 本書では「人間の深層心理の弱点を突く悪徳な所業」。
- １３１ ア・フォルティオリ（a fortiori）
- 本書では「おなさらに」？ インターネットでも調べました。
- １３２ 強請る（ゆする）
- １３３ エソテリック（esoteric）
- 難解な。
- １３４ 所為（しょい）
- １３５ フールプルーフ（foolproof）
- １３６ リブート（reboot）
- 再起動。インターネットで調べました。
- １３７ 企む（たくらむ）
- １３８ トークン（token）
- インターネットで調べました。
- １３９ 両刃の剣（もろはのつるぎ）
- 諸刃の剣（もろはのつるぎ）。
- １４０ 虜囚（りょしゅう）
- １４１ シミュレーション・アーギュメント（simulation argument）
- 本書では「仮説」。
- １４２ 底企み（そこだくみ）
- １４３ セマンティクス（semantics）
- セマンティックス。意味論。
- １４４ 意味論（いみろん）
- １４５ ヘドニズム（hedonism）
- 本書では「ヘドイズム」。
- １４６ ヘドニウム
- 本書では「快楽が生成可能な物質」。調べましたが、わかりませんでした。
- １４７ 充溢（じゅういつ）
- １４８ 馴化（じゅんか）
- 順化（じゅんか）。
- １４９ シノプシス（synopsis）
- 本書では「概要」。
- １５０ 移調（いちょう）
- １５１ サヴァン（savant）
- サヴァン症候群の特徴のことでしょうか。
- １５２ 犂（すき）
- １５３ 役馬（えきば）
- １５４ 輓馬（ばんば）
- １５５ 飼養（しよう）
- １５６ 膠（にかわ）
- １５７ フェアトレード（Fair trade）
- 公正取引。
- １５８ 大枚（たいまい）
- １５９ マルサスの人口論
- インターネットで調べました。
- １６０ レジーム（regime）
- １６１ シナジー（synergy）
- １６２ プリンシパル（principal）
- 「階級の上位に位置する」とか「主役」というような意味でしょうか。
- １６３ 吝嗇（りんしょく）
- １６４ くすねる
- １６５ 素寒貧（すかんぴん）
- １６６ オートマタ（Automata）
- 機械人形。インターネットで調べました。
- １６７ スレッド（thread）
- １６８ 快情動
- 心理学などの専門用語のようです。インターネットで調べました。
- １６９ ウェル・ビーイング（well-being）
- 良好な状態。
- １７０ パングロス
- インターネットで調べました。
- １７１ 黒泥
- 「こくでい」と読むのでしょうか。
- １７２ 必定（ひつじょう）
- １７３ メリオリズム（meliorism）
- インターネットで調べました。
- １７４ アセクシャル（asexual）
- 無性愛。インターネットで調べました。
- １７５ 我褒め（われぼめ）
- １７６ デシジョン・メーカー（Decision Maker）
- あることについての決定者。インターネットで調べました。
- １７７ インスペクター（inspector）
- 検査官。
- １７８ リヴァイアサン（Leviathan）
- １７９ プリコミットメント
- 本書では「事前に決め事」。
- １８０ ファーストムーバー・アドバンテージ
- 本書では「先行者利益」。
- １８１ ミーク（meek）
- 本書では「柔和な人」。インターネットで調べました。
- １８２ アクラシア
- 本書では「自制心を欠く人」。
- １８３ レキシコン（lexicon）
- インターネットで調べました。
- １８４ レジスタ（register）
- レジスター。
- １８５ 生喰い
- 調べましたが、わかりませんでした。
- １８６ スキャッフォルディング（Scaffolding）
- 本書では「足場作り」。４３７ページでは「暫定目標の設定」。
- １８７ クエリー（query）
- １８８ 薬局方（やっきょくほう）
- 本書では「ファーマコペイア」。
- １８９ メリトクラシー（meritocracy）
- 本書では「能力至上主義」。
- １９０ 監理（かんり）
- １９１ アフォーダンス（affordance）
- １９２ 不可謬（ふかびゅう）
- 間違いのないこと。
- １９３ 遵従（じゅんじゅう）
- インターネットで調べました。
- １９４ 素描（そびょう）
- １９５ 衡平（こうへい）
- １９６ 熟考（じゅっこう）
- １９７ 定立（ていりつ）
- １９８ オラクル
- 本書では「水晶玉」。神託。
- １９９ アトラクター（attractor）
- インターネットで調べました。
- ２００ 功力（くりき）
- 仏教語。
- ２０１ アドボカシー（advocacy）
- 本書では「擁護する識者」。
- ２０２ 抑速（よくそく）
- インターネットで調べました。
- ２０３ 起生
- 調べましたが、わかりませんでした。
- ２０４ 歩廊（ほろう）
- ２０５ 胸壁（きょうへき）
- ２０６ アルマゲドン（Armageddon）
- インターネットで調べました。
- ２０７ 諍い（いさかい）
- ２０８ カウンター・プロダクティブ（counter-productive）
- 逆効果の。
- ２０９ 弾く（はじく）
- ２１０ 転義（てんぎ）
- ２１１ トポロジー（topology）
- ２１２ ランダムウォーク（random walk）
- ２１３ ゼロサムゲーム（zero-sum game）
- ２１４ 百鬼夜行（ひゃっきやぎょう、ひゃっきやこう）
- ２１５ スラム・ダンク（slam-dunk）
- インターネットで調べました。
- ２１６ ブルートフォース（Brute-force）
- 総当たり、という意味でしょうか？
- ２１７ ボトルネック（bottleneck）
- ２１８ イネーブラー（enabler）
- インターネットで調べました。
- ２１９ スループット（throughput）
- ２２０ デフォルト（default）
- ２２１ 形骸（けいがい）
- ２２２ 煩累（はんるい）
- 本書では「わずらい」。
- ２２３ ナッシュ均衡（Nash equilibrium）
- インターネットで調べました。
- ２２４ 後塵を拝す（こうじんをはいす）
- ２２５ サブリニア
- 本書では「準線形的」。調べましたが、わかりませんでした。
- ２２６ 一欠片（ひとかけら）
- ２２７ フィランスロピスト（philanthropist）
- 博愛主義者。慈善事業家。
- ２２８ 切片（せっぺん）
- ２２９ ディストピア（dystopia）
- ユートピア（utopia）の反対のこと。
- ２３０ エウダイモニア（eudaimonia）
- 幸福。
- ２３１ エンティティ（entity）
- 本書では「パートナー」。
- ２３２ 福利（ふくり）
- ２３３ オーバーシュート（overshoot）
- ２３４ 暁光（ぎょうこう）
- ２３５ 古（いにしえ）
- ２３６ 灯明（とうみょう）
- ２３７ ロバスト性（robustせい、robustness）
- インターネットで調べました。
- ２３８ アセット（asset）
- インターネットで調べました。
- ２３９ 自刃（じじん）
- ２４０ ファナティシズム（fanaticism）
- 本書では「狂信主義」。
- ２４１ 些事（さじ）
- 瑣事（さじ）。
- ２４２ マシン・インテリジェンス
- 本書では「自律学習型人工知能システム」。
- ２４３ 孕む（はらむ）
- ２４４ ターミネーター（terminator）
- インターネットで調べました。
- ２４５ 揶揄（やゆ）
- ２４６ カコフォニー（cacophony）
- 不協和音。
- ２４７ バズワード（buzzword）
- それらしい説明のついた専門用語。
- ２４８ 揚言（ようげん）
- ２４９ 思考実験（しこうじっけん）
- ２５０ 人倫（じんりん）
- ２５１ 生憎（あいにく）
- ２５２ 瑣末（さまつ）
- 些末（さまつ）。
- ２５３ 盟主（めいしゅ）
- ２５４ それ故（それゆえ）
- ２５５ R&D（Research and Development）
- 研究開発。
- ２５６ 嚮導（きょうどう）
- ２５７ 思量（しりょう）
- ２５８ 発動（はつどう）
- ２５９ スミアリング（smearing）
- ２６０ 見地（けんち）
- ２６１ 与する（くみする）
- ２６２ シークエンシング（sequencing）
- ２６３ 矩形（くけい）
- ２６４ ティンカーベル
- 調べましたが、わかりませんでした。
- ２６５ 口伝（くでん）
- ２６６ 伝承（でんしょう）
- ２６７ 口承（こうしょう）
- ２６８ 仰韶文化（ぎょうしょうぶんか）
- ２６９ リバタリアン（libertarian）
- ２７０ 乾物（かんぶつ）バイオマス（dry biomass）
- ２７１ リエンジニアリング（reengineering）
- ２７２ 漸近（ぜんきん）
- 漸近線のことでしょうか。
- ２７３ 生出（せいしゅつ）
- ２７４ トロリー問題
- トロッコ問題。
- ２７５ モーメンタムベクトル
- 調べましたが、わかりませんでした。インターネットで調べました。
- ２７６ フォーカルポイント（focal point）
- シェリングポイント（Schelling point）。原注６０７ページに解説があります。インターネットで調べました。
- ２７７ アジェンダ（agenda）
- ２７８ オントロジー（ontology）
- 人工知能のおける、概念の具体的な定義をすること、でしょうか。
- ２７９ 尤度（ゆうど）
- ２８０ 釈義（しゃくぎ）
- ２８１ ユビキタス（ubiquitous）
以下余白