目次
- 視覚効果に隠された意味
- 様々な疑問の解説
- 古典的なテーマと「ビックデータ」の融合という革命
- 人工知能は脅威か?
- それでもロボットに感情は目覚めることはないのか?
- 指令を愚直に守る“危険性
- まとめ
視覚効果に隠された意味
ぞわぞわと危機感を感じさせるテーマもさることながら、視覚に訴える効果が非常に秀逸な映画でしたね。
まず目がいくのは、随所に感じる美しさ。ＳＦらしくないですね（笑）
雄大な大自然、未来感溢れる別荘、そして美しい“エヴァ”。 終盤、エヴァが新しいボディに換装して披露した“裸体”には、エロスとは別種の神々しさすら感じてしまいました。
人間には創り出せない圧倒的な大自然の美しさ。 未来を感じさせる非日常感。 思わず見とれてしまう、一糸纏わぬ姿。 これらのビジュアルはどれもこれも、ただ美しいというだけでなく、「日常」「現実」「人間の作りだせる限界」 といった諸々を超越した何かを感じさせるものばかりでした。
おそらく監督は、“知的生命体の創出”という行為の神秘性を演出する意図をもって、あのような舞台を設定し たのではないでしょうか。
また、アンドロイド・エヴァのボディの美しさもとても印象的でした。 機械部品を強調したロボットでもなく、グロテスクな有機物でもなく、非常に洗練されたスタイリッシュなデザイン。こういった人工知能モノでここまで美しさを際立たせたフォルムは案外珍しいですね。
思えば 20 世紀のSFは、宇宙船の中をあえて散らかして生活臭をだしてみたり、「ブレードランナー」や「攻殻機動隊」をはじめとする退廃的で混沌とした近未来像を描いてみたり、いかにSF世界に泥臭いリアリティをだすかという問題に腐心していた気がします。
しかし近年、スマートフォンを中心とした新しいインターフェースが急速に普及していく中で、「本当の未来はもっとスタイリッシュなのではないか?」という考え方も出てきた。この映画はそんな新しい方向性を提示しています。 21世紀らしい、非常に面白い視点だと思います。
あと、巧いなあと感心したのが、研究所の外観ですね。
「近未来感あふれる建物」と「雄大な大自然」という一見アンバランスな組み合わせですが、妙なリアリティを 感じさせました。 ここでも、ただ「スタイリッシュだなあ」と思わせるだけでなく、実は上手に僕らの心理的な死角を突いてきて います。
たとえば、もしこれがよく映画にでてくるような、いかにも「秘密研究所」らしい施設(そこら中に配線とディス プレイが溢れていて、たくさんの白衣の研究者がうろうろしている)にしてしまったら、どうでしょう? なんだか物語自体が安っぽく、作り物っぽく感じてしまいませんか?
そうなんです。現実離れした“大自然の中にあるスタイリッシュな施設”だからこそ、説得力があるのです。その近未来感に圧倒されることで、観客も知らず知らず「ネイサンなら独りでAIを作りうるかもしれない。だってこんなにすごいんだから。」と思わされてしまうのです。
総じて、この映画がアカデミー視覚効果賞を受賞したのは、単に「美しいから」だけでは無いという事が伺えます。美しいビジュアルが作品に対してしっかりと意味を持って作用している、まさに「視覚効果」の点において、非常に優れた感性をもっていたからだと言えるでしょう。
様々な疑問の解説
なぜヘリの運転手はエヴァを載せて飛んで行ったの?
色々なケースが考えられますが、社長から「○月○日にいつもの場所で客を一人乗せてくれ」としか聞いていないと考えるのが一番納得ができます。 しれっと「私が代わりに乗ることになった」と言いくるめられ納得しちゃったとか、前回と違うパイロットだったから…などの可能性もありますけどね。
むしろ、お抱えパイロットなんですから「連絡されていないからあなたは乗せられません」なんて融通の利かないことをいっているようではクビにされてしまいます。ここは一般人の立ち入れない場所です。主人のゲスト様であろう人(エヴァの服装は使用人には見えません)の依頼を断ることは考えにくいでしょう。
タイトルの意味は?
出典はラテン語の「デウス・エクス・マキナ」。直訳すると「機械仕掛けから出てくる神」の意味。映画の意味を考えるとカッコイイですね。
もともとは演劇用語で、「登場人物の主張が対立し収集がつかない → 終盤、神様が脈絡なくいきなり登場し裁定を下す → みんな納得しめでたしめでたし」というような、説得力のない無理やり感のあるストーリーを批判する用語です。 (現代だと「夢オチ」なんかが該当します)
この映画に関しては、直訳した意味のほうを重視したのでしょうね（笑）
他にも「エヴァ」「ネイサン」「ケレイブ」なんかは宗教用語だそうで、これらの単語も神秘性の演出に一役買っ ています。僕は全然知らんかったけどな!
古典的なテーマと「ビックデータ」の融合という革命
人工知能の脅威とはわりと古典的なテーマです。古くはアシモフの「ロボット」や、映画だと「ブレードランナー」、非常に有名な「鉄腕アトム」でも、様々な観点から人工知能の脅威については語り尽くされてきました。
しかしこの映画の優れたところは、人工知能に対し「ビッグデータの利用」という今までより一歩踏み込んだ言及をしており、新しい説得力を与えることに成功した点です。今まではどうしても「天才が作った人工知能」「発達したコンピューターによるすごい学習能力」という曖昧な表現になりがちでしたもんね。
それにしても、人工知能を飛躍的に発達させる方法を、「ビッグデータ」という一単語で納得させられたという のは21世紀ならではですね。僕らもいつのまにか、未来に生きているようですね…。
それに「ビッグデータの活用」というアプローチは、SF界における人工知能にある革命をもたらしました。
それは、今まで人工知能の弱点とされていた“人間にあってコンピューターにない”ジャンル(特に感情の表現、 表情の模倣、果ては人間心理の理解)に対して絶大な効果を発揮し、「むしろ人間より上手」と思わせたことです。
従来のSFでは、人工知能はどこか「人間のことを理解してきれていない」とされていました。 「観測数値のみで感情を把握」とか「初めて機械に“感情”が芽生えた」なんて設定もよくありましたね。
ところが!「全世界の携帯電話の通話とウェブカメラをハッキングしているから、膨大な感情・表情・会話のデ ータが集まるんだよ!ビッグデータだよ!」と言われてしまっただけで! 私たちは今までの常識をすっかり忘れ、「そうか、AI にかかれば表情演技も心理操作も思いのままなんだな…」と思わされてしまったのです。
これって、地味に凄いことではないでしょうか。人工知能が、人間的な部分で人間を超える…これはもう、SF界における一つの革命です。 現代人のグーグル超大手検索サイトに対する依存度と怖れがなせる業でしょう。いやはやグーグルプルーブック社って本当にスゴい。
人工知能は脅威か?
ところで、この映画を観ると、「近い将来これは現実のものとなるかもしれない…。いや、もしかして既に…」 等と神妙な顔でレビューを書きたくなってしまいます。しかし本当にそうでしょうか。果たして、本当に人工知能は人類の脅威になりうるのでしょうか。映画そのものから少し外れますが、ちょっと考えてみたいと思います。
まず、先ほど述べたように「ビッグデータの活用」という理論は SF・サイエンス・フィクションの世界では革命的な説得力を持っていました。しかし、残念ながら、現実の人工知能界では特にそういうわけではありません。正直に言いますと、現在の科学技術を考慮すれば、この映画ではビッグデータと人工知能の脅威に対して過大な評価がされていると言わざるをえないのです。
今、人工知能の脅威に怯えるのは、「空飛ぶ車が我が家の上空で渋滞を起こしたらどうしよう」と怯えるくらいナンセンスなのです。
人工知能は、まだその段階にない
当たり前の話ですが、2018年の時点ではエヴァのような AI は存在していません。それどころか20年後、30 年後、いや100 年後になってもとても実現できないくらい困難な話なんです。
もちろん、現実にロボットは急速な進化を遂げています。 「なめらかな会話」「違和感のない表情」「人間らしい動作」といった難題についても、ひとつひとつのジャンルに絞っていけば、人と見間違えるとまではいかなくてもそれなりに優秀なロボットは既に存在しているようです。
数十年後、こういった技術の延長線上に「人間のように動き、笑い、会話をできるロボット」が存在することは 決しておかしくはありません。
しかし、人のように動くロボットと、エヴァのように感情を持って思考する人工知能の間には、想像以上に大きな隔たりがあるのです。
いわゆる「人間のような人工知能」は実現するのか？この問題を自動運転の AI の構築に携わっているプログラマーに聞いてみたことがあります。彼は非常に困難であると断言した上で、コンピューターの抱える根本的な欠陥を説明してくれました。
コンピューターは、プログラムを与えてあげれば人間以上の“速度”で解決することはできる。しかし自分で何 をするか考えることはできないんだ。
たとえば、チェスをするロボットは会話ができないし、会話ができるロボットは机の上に何が置いてあるかを認 識することができない。机の上にあるものを識別できるロボットは、それがチェス盤であると認識しても、チェ スをプレイするという発想は出てこないということです。
もちろん、物理的な制約やコスト的な制約を無視すれば、無数のプログラムを追加していく事で「何でもできる」 ロボットをつくることは出来るかもしれません。 しかしそれはプログラム通りの動きをするロボットの集合でしかないのです。
それに、注目しろとプログラムした物には速攻で注目するけど、それ以外のものはみえない。
ロボットに視覚の代わりとなるカメラを取り付け、あらかじめ「画面の中に文字があれば注目する」というプロ グラムや「人間の顔を識別する」というプログラムを入れておき、その通りに行動することはできます。 しかし、ロボットはカメラで得られた情報の中の、どれを注目すべきか自分で判断することはできないのです。
逆に考えれば、人間って凄いですね…。 世界を観ながら、その中で注目すべきものを取捨選択し、必要な情報だけを取り出し、適切な処理をする。実は人間は、ロボットなんて比較にならないくらい膨大な情報量を処理しているんですね。
それでもロボットに感情は目覚めることはないのか?
そうは言っても、コンピューターの情報処理能力は日々向上しています。いつかは人間のように、膨大な視覚情報を瞬時に処理することができるようになるでしょう。そのうえ会話を操り、自分で動けるロボットとなれば、いつしか彼らが自我に目覚めて心を持ってもおかしくな いはず…。エヴァのように…。と思ってしまいます。
少し話は変わりますが、人間はどのようにして会話の能力を身につけるのでしょう? 子育てを経験された方はよく理解されているでしょうが、人間の場合、言語の習得は非常に回り道です。
非常に乱暴なまとめ方ではありますが、人間の子供は1歳で「まんま」や「ぶっぶ」といった意味のある1単語の様なものを発するようになり、2歳で「まんま、ほちい」といった2単語の文を作れるようになり、3歳でやっと「ぼく おかあさん すき」といった3語文を使いこなすようになります。 (※もちろん言語の習得は個人差が非常に大きく、あくまで雑な例です)
しかしもちろん、子供たちは年月がたてば自然と話せるようになるわけではありません。
子供が言語能力を習得するには、基本的なプログラム「不快を感じたら声を出す」「目の前の存在をまねる」「空腹、睡眠などの欲求を満たす」等に従いながら、とにかく「あー」だの「うー」だの、無秩序なトライ&エラーをひたすら、ひたっっっすら繰り返すのです。
実はこの、「無秩序なトライ&エラー」こそがロボットが持たない特徴であり、知性の鍵ではないでしょうか？
ロボットは、決められたことしかやらず、失敗しないことを目指して作られます。
たとえばリンゴの絵をみせてこれは何かと尋ねたら、ネット上から類似の写真を検索し、一致条件の多いものか ら「ソレハ リンゴ デス」と答えさせることはさして難しくないでしょう。 正解率はさておいて、そういうプログラムを組むことは出来るはずです。
ただ、それで終わりです。これは知性というより、命令に従う「画像検索システム」でしかありません。
ロボットには、そこで「わかんなーい」と嘘をついてみたり、まして、いきなりリンゴの絵を引っ張って破ってみるだの、クレヨンで落書きしてみるだの、牛乳をこぼしてみることは決してありません。(だってそんな 風にプログラムされてないから!)
同様に、『ビッグデータ』を用いて、会話の際に適切な反応ができるよう会話プログラムをつくっても、それは「大規模な会話類例検索システム」でしかありません。『ビッグデータ』は、魔法の箱ではないのです。
触ったらどうなるか?引っ張ったら?露ってみたら?悪いことをしてみたら?
人間の子供は様々な好奇心を持ち、実行してみます。
“結果を予測する好奇心”と、“トライ&エラーによる学習”。人間の持つ「知性」の本質はそこにあります。
トライもしないし、エラーもしない。「決められた作業を粛々とこなす」というコンピューターの性質はむしろ、昆虫や微生物のような半自動的な生物に近く、我々人間のような「知性」とはほど遠いものです。
いくら処理速度が上がっても、処理量が上がっても、膨大なビッグデータを利用しても、同じこと。 プログラムされていないことは考えないし、どうなるか想像もしないし、やってみようともしないのですから。
…というわけで、どれだけ人工知能が優秀になってもであっても、反乱をトライしてみたり、相手の感情を利用 して裏切ってみたりといった事態を心配するのは全くの杞憂なのです。 一安心のような、ロマンがないような(笑)
指令を愚直に守る“危険性
しかし、別の方向性の危険は十分に考えられます。
ロボットは愚直に指令を守りますが、それゆえに「人間が目標や禁止事項の設定を間違えることで、危険な結果を招く」という可能性は排除できないのです。
人工知能に危機感を覚えるある科学者はこんな例えをあげていました。
「大量にリンゴを作るよう指令を受けたロボットが、リンゴの生産性を最大化させるために、人類を滅ぼし地球全てをリンゴ畑にする」
まあ、この例えは極端にしても、「自動で敵を識別して攻撃するロボット兵士が民間人を誤射する」なんて事件は遠からず起こりそうですよね。(たぶんアメリカ軍あたりが)
これは、人工知能の暴走なんてSFな話ではなく、不完全なプログラムの結果と言うべきものです。「敵」の識別アルゴリズムに欠陥のあるロボットに銃を持たせたせいで、ロボットはプログラム通りに「敵」と 判断した民間人を誤射してしまう…。悪いのはロボットでしょうか?プログラムを担当した人間でしょうか?
また、先ほど話した「自動運転アルゴリズム」のプログラマーが言うには、自動運転のプログラミングで難しいのは「正解のない問題にぶつかった時の挙動をどう設定するか」だそうです。
たとえば「このまま進めば一人をはねてしまう、それを急いで避けたら別の一人をはねてしまう」というシチュ エーションで、どちらに動くようプログラミングすべきなのでしょうか?
どちらに動くよう設定しても、人工知能は忠実にその通りに行動し、どちらかを轢き殺してしまうのです。これは果たして、人工知能の暴走と呼んで良いのでしょうか？
そう考えると、この映画で起こった事件の核心も見えてきます。 エヴァに自我や感情が芽生えているかどうかはともかくとして、おそらくネイサンは彼女に『施設から脱出する ことを目的とせよ』『あらゆる手段を使ってよい』とプログラムしてしまったのではないでしょうか? 「人に危害を加えない」などの禁止事項や、緊急停止の手段も設定せず。
これでは、“人工知能の暴走”とはとても呼べません。むしろ、彼女は、忠実にプログラム通りに動いただけ。そう、悪いのは危機管理のできていないプログラミング、あるいは設計ミス、つまり、この事件は100%ネイサンのせいだったんです。
まとめ
今後、ロボットはますます機能を高めてきます。それに伴い、もしも設計ミスがあった時の被害の規模も、比例して大きくなるでしょう。
しかし現在、「もし設計ミスがあったら被害が大きいから、航空機や新幹線の制御装置をコンピューター制御にするのはやめよう」と主張する人はほとんどいません。
僕たちは「人工知能の脅威」を闇雲に恐れるべきではありません。十分な危機管理をして信頼性を高めながら、 適切に使いこなすべきなのです。
