悪の教典#9 第3印象 – Karn Evil 9 Third Impression:コンピュータと人類の戦いの勝者は

投稿日: カテゴリー: MUSIC

Brain Salad Surgery
CPUを 1,202個、GPUを 176枚搭載するという AlphaGo が人類最強といわれる囲碁棋士に勝利した。5戦4勝という結果だ。人間の対戦棋譜を元に戦法を人工知能で学習、自らのロジックも模擬戦により強化するという新しいタイプのプログラムだ。いわゆるディープラーニング、ニューラルネットワーク系のプログラムだ。

囲碁は、探索空間が巨大で、盤上の石の配置や動きの評価が難しいため、長い間人工知能にとって最も困難な古典的ゲームであると考えられてきた。今回我々は、盤上の石の配置を評価する「バリューネットワーク」と動きを選択する「ポリシーネットワーク」を用いる、コンピューター囲碁の新しい手法を提示する。こうしたディープニューラルネットワークは、熟達した棋士同士の対局からの教師あり学習と自己対局での強化学習を新たに組み合わせることによって訓練される。このニューラルネットワークは、先読み探索を全くせずに、数千のランダムな自己対局をシミュレートする最先端のモンテカルロ木探索プログラムと同じ水準で囲碁を打つ。さらに我々は、モンテカルロシミュレーションをバリューネットワークおよびポリシーネットワークと組み合わせた新しい探索アルゴリズムも提示する。この探索アルゴリズムを用いて、我々のプログラムAlphaGoは他の囲碁プログラムに対して99.8%の勝率を達成し、人間のヨーロッパ囲碁チャンピオンと5回対戦して全勝した。コンピュータープログラムが人間のプロ棋士にフル規格の囲碁の対局で勝利したのは今回が初めてであり、少なくとも10年は先だろうとこれまで考えられていた偉業である。

Mastering the game of Go with deep neural networks and tree search日本語要約) – Nature

人工知能が人類を超える という「事実」に対しては議論がある。スティーブン・ホーキング博士は人工知能の進化は人類の終焉につながると警告している。

“The development of full artificial intelligence could spell the end of the human race.”

Stephen Hawking warns artificial intelligence could end mankind – BBC

「人類 vs 人工知能」という構図はトピックとしては面白いが、少々乱暴で議論が抽象化してしまう。どの視点をもって「超える」「勝った/負けた」を定義するのか、という問題があるし、そもそも「善悪の問題」ではない。ただ、その事実の先に起こる未来が「人類にとって幸福か、不幸か」という命題を誰もが感じているのだと思う。

EL&P の傑作、Karn Evil 9 が描く人類とコンピュータの戦い

1973年にリリースされた Emerson, Lake and Palmer の4枚目のスタジオ録音アルバム Brain Salad Surgery(恐怖の頭脳改革) には、Karn Evil 9(悪の教典#9)という組曲が収録されている。演奏時間は 29分37秒、演奏難易度がこれ以上ないほどに高く、かつドラマチックな EL&P の名曲、プログレッシブロックの至宝だ。

この長編曲が扱っているテーマが「人類とコンピュータの戦い」。3つめのパート、3rd Impression(第三印象)は人類と進化したコンピュータの最終決戦を描いている。King Crimson の Peter Sinfield が書いた歌詞は次のようなものだ。

Man alone, born of stone,
Will stamp the dust of time
His hands strike the flame of his soul;
Ties a rope to a tree and hangs the Universe
Until the winds of laughter blows cold.

Fear that rattles in men’s ears
And rears its hideous head
Dread… Death… in the wind…

Man of steel pray and kneel
With fever’s blazing torch
Thrust in the face of the night;
Draws a blade of compassion
Kissed by countless Kings
Whose jewelled trumpet words blind his sight.

Walls that no man thought would fall
The altars of the just
Crushed… Dust… in the wind…

No man yields who flies in my ship
Danger!
Let the bridge computer speak
Stranger!
Load your program. I am yourself.

No computer stands in my way
Only blood can cancel my pain
Guardians of a new clear dawn
Let the maps of war be drawn.

Rejoice! Glory is ours!
Our young men have not died in vain,
Their graves need no flowers
The tapes have recorded their names.

I am all there is
Negative! Primitive! Limited! I let you live!
But I gave you life
What else could you do?
To do what was right
I’m perfect! Are you?

AZLyrics.com

人類とコンピュータの最終決戦、その勝者は?

歌詞が抽象的なことから、この人類とコンピュータの最終決戦の結末には複数の解釈があるが、Wikipedia にもある通り歌詞を書いた Peter Sinfield の解釈は「人類はコンピュータの力を借りて戦いには勝利するが、同時にその人類はコンピュータにとって代わられる」とする説が有力だ。

No man yields who flies in my ship
Danger!
Let the bridge computer speak
Stranger!
Load your program. I am yourself.

太字は Greg Lake の歌に対し Keith Emerson が担当する「コンピュータの声」パートである。まさにコンピュータと人類の最終決戦の火ぶたが切らるシーン、ここでコンピュータはプログラムをロードして人間になろうとする。

それはもう鳥肌もののワイルドでスリリングな展開により、最終決戦の凄まじさを表現した後、人類は戦いに勝利する。しかし結末は、コンピュータと人類との謎かけのような対話で終わる。

I am all there is
Negative! Primitive! Limited! I let you live!
But I gave you life
What else could you do?
To do what was right
I’m perfect! Are you?

コンピュータ:私はあなたを生かしたのだ。
人間:だが、私がおまえに命を与えた!
コンピュータ:他に何が出来たというのだ。
人間:正しいことするためだった!
コンピュータ:私は正しく完全だ。あなたはそうではないのか?

対話の人類パートはグレッグの叫びで終わる。そしてコンピュータの暴走を暗示するシンセサイザーシーケンスで曲は終わる(このシーケンスはライブ盤では強烈でスタジオ録音盤より過激だ)。

人類と進化するコンピュータの共存

1968年に公開された 2001年宇宙の旅 はコンピュータの完全性と危うさを具体的に提示した。1983年の ウォー・ゲーム ではコンピュータが人類の愚かさを「学ぶ」という姿を描いた。1984年公開の ターミネーター では「既に戦いに負けてしまった人類」を描き、1992年のスティーブンキング原作の バーチャル・ウォーズ では「デジタル化された人間の意識がコンピューターネットワークで生き続ける」世界を描いた。

速く移動する、重いものを持ち上げる、休まず働くといった物理的な作業はマシンの方が人間より優れている。計算するという処理においても同じだ。マシンには不可能とされてきた人類ならではの活動、「思考」と「感動(感情)」そして「創造」はいつまで人間優位でいられるのだろうか。

自ら「学ぶ」ようになったコンピュータはもはや「思考」していると言って良い。感情は思考判断のひとつとすると、既にコンピュータは原始的な感情を持っているのかもしれない。たぶん、数年にうちにゴッホなどの名画から、たくさんのコンテクストを読み取り、評価(感動)するコンピュータプログラムが現れるだろう。これは予言ではなく事実の範疇だ。

この曲を夢中になって聴いていた高校時代、やたらに演奏難易度が高いこの曲が人類の課題とまさにシンクするような時代がくるとは思ってもみなかった。そんな気持ちでこの曲を聴くときがくるなんて思ってもみなかった。

今月は Keith Emerson 追悼月間ということで、強引な Emerson, Lake and Palmer オチでお送りした。

悪の教典#9 第3印象 – Karn Evil 9 Third Impression:コンピュータと人類の戦いの勝者は」への4件のフィードバック

  1. EL&Pのタルカスや頭脳改革は間違いなく傑作だけど,私は歌詞を深くは読み込んでなかったなあ….昨今のAiの進化から見ると,このアルバムの当時としては先進的な内容だったんですね!ところで,テレビ宣伝的にはにぎやかな「人工知能」ですが,専門家はAiとAGi(汎用人工知能)をちゃんと区別してますね.チェスや囲碁専用機として人間に完全勝利しても,人間の持つ汎用的な知能のレベルないし域に達したことにはならない.まぁ,昭和の時代にカメラの露出を自動化したものが「人工頭脳」とか宣伝文句になってたことと今のAiの騒がれ方は本質的には変わらないと思う.エキスパートシステムと呼ばないところが…ね.今ではCPUの内部配線幅は金属原子数100個程度にまで細密化しているから,手のひらサイズのスパコンとかは無理.あとは,ソフトウエアのアルゴリズムの問題のみ未知数かなあ.今度の休日に,読みかけのキース・エマーソン自伝の続きでも読むか!

  2. これは素晴らしくユニークなジャーナルで楽しく読ませていただきました。
    Deep Mind のデミス・ハサビスが発信している、いかにも開発者なコメント、人工知能の必要性を問う、人類にとっての利便性をアピールする彼のコメントを読む度に、薄ら寒くなるのは僕だけだろうか。人工知能が目的地を示してくれる世界に、僕らは何を夢見ることができるのだろうか?
    R.I.P Keith Emerson

    1. (human) But I gave you life / (computer) What else could you do?
      このやりとりがまさしく重要な課題を表現していると思います。当時、そこまで時代を読み込んでたかは別ですが。

      将来、コンピュータが人類との共存を望んでくれることを祈るばかりですね。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です