※以下の考察・解説には映画のネタバレが含まれています
『アイ,ロボット』の舞台設定は2035年のシカゴだ。そこでは社会の中に自律性のあるロボットが溶け込み、人間の良いパートナーとして欠かせないものになっている。
『アイ,ロボット』の公開は2004年。当時の私は高校生だった。映画館でリアルタイムで今作を観たのだが、それから18年経った2022年現在においては、残念ながら2035年になってもそこまでのレベルにはいきそうにないというのが正直な感想だ(劇中でウィル・スミスが2004年製のレザー・コンバースをヴィンテージと自慢するシーンがあるが、どうやらこちらは現実になりそうだ)。
『アイ,ロボット』
『アイ,ロボット』はアレックス・プロヤス監督、ウィル・スミス主演のSFアクション映画。原作はアイザック・アシモフの『我はロボット』だが、ほとんど別物の作りになっている。一部の登場人物の名前と設定、ロボットの反乱という部分に名残を残すのみだ。公開年が2004年というのは先に述べた通りだ。
『アイ,ロボット』ではAIであるヴィキが生活のインフラを監視している。
ヴィキは街の保安システムを司るAIで、U.S.ロボティクス社のラニング博士が初期に開発したAIでもある。
U.S.ロボティクス社のロボットには以下のロボット三原則という制約がプログラムで埋め込まれており、誰からも安全なロボットだと思われていた。
原則1.ロボットは人間に危害を加えてはならない
原則2.ロボットは1に反しない限り人間の命令に従わなければならない
原則3.ロボットは1、2に反しない限り、自己を守らなければならない
だが、刑事のデル・スプーナーは過去のある事件からロボットを全く信用していない。そんな彼は刑事課でも浮いた存在だった。
ある日、スプーナーのもとにラニング博士が亡くなったという知らせが届く。状況からは飛び降り自殺に思われたが、ラニング博士が遺書として残したホログラムにはスプーナーを呼ぶようにと伝言があった。自殺なら殺人課の刑事は呼ばない。
不審がるスプーナーはロボット心理学を研究するスーザン・カルヴィン博士の協力も得て、ラニング博士のラボを調べる。そこには一体のロボットが潜んでいた。
スプーナーの命令に反して現場から逃亡したロボットをスプーナーとカルヴィンは追う。
ロボットは自らの生産工場に逃げ込む。
「三原則が組み込み済みならに人間の命令に反してまで自己を守ろうとはしない」
同じタイプのロボットが無数に並ぶ空間でスプーナーは迷わず目の前のロボットに銃を突きつける。
「なぜ人間の顔をつけた? 親しみがわくからか?みんなこの顔に騙される」
スプーナーは新型ロボットがより人間らしい外観をしていることに不安を抱いている。いくら人間らしく人に害のない設計とは言えども、ロボットはあくまでロボットであると信じているからだ。ロボットが人間に近づき、その境界線を越えてしまうのをスプーナーは潜在的に不安に感じている。
ロボットは工場から逃げ出すが、警察の包囲網に捉えられる。脱走の直前、ロボットはスプーナーに問いかける。
「私は何ですか?」
警察署に連行されたそのロボットはスプーナーの尋問に「サニー」と自らの名前を語る。そして、夢を見ることも明かし、博士を殺していないことを声を荒げて叫ぶ。
「それは怒りだ。教わったことはあるか?」
スプーナーはサニーにこう問う。サニーは自分の感情に戸惑ったような振る舞いを見せる。なぜ自分は感情があるのか、なぜ自分は他のロボットとは違うのか。なぜ自分はそのように生まれたのか。先ほどの「私は何ですか?」という問いには自らの存在する意味を求めるサニーの苦悩が滲んで見える。
サニーはU.S.ロボティクス社の代表者であるロバートソンによって回収され、取り調べは強制的に終わる。
ロボット三原則
ロボット三原則はSF作家アイザック・アシモフが『我はロボット』で初めて取り入れた規則だ。興味深いのはこの規則はフィクションの世界を越えて現実のロボット開発の場合にも応用されてきたということだ。
もちろん現段階でロボット三原則を実際にAIに適応させることは不可能だ。将来的にも難しいだろうという見通しもある。単純なひとつの命令も、状況次第では無数の解決しなければならない別の問題が発生する可能性があるからだ。
自動運転を見れば分かりやすいだろう。 この場合、命令は搭乗者を目的地まで運ぶことであるが、道路には無数の危険があり、それを完全に予測・解決しながら命令を実現するのは難しい。これはフレーム問題と呼ばれるものだ。逆に将棋や囲碁、チェスなどの外部環境の存在しない、あらかじめ定められたルールのみ存在する(枠=フレームがある)場合であれば、AIの能力は人間を凌駕する可能性がある。
スプーナーは自身のロボット嫌いの理由をカルヴィンに明かす。
スプーナーはかつて事故に遭った。少女の乗った車、スプーナーの車の2台が追突され海へ転落したのだ。 そこへロボットが助けに来たのだが、少女を助けろというスプーナーの命令に反して、ロボットは生存可能性の高いスプーナーを助けたのだった。
監督のアレックス・プロヤスはスプーナーのキャラクターについて、「この事件で一度死んだようなもの」と述べている。スプーナーは罪悪感を抱え、少女の代わりに自分が死ぬべきだったと考え続けているという。
「人間ならどちらを助けるかわかった。機械に心はない」
そうスプーナーはカルヴィンに言う。
こちらも倫理的な問題としてAIの在り方に重くのし掛かるだろう。哲学でいうところのいわば「トロッコ問題」の応用のようなケースだ。
「トロッコ問題」とは哲学の有名な問題のひとつ。トロッコが走っていると、前方にが5人が横たわっている。線路を切り替えればその5人は助かるが、切り替えた先にも1人が横たわっているものとする。あなたは線路を切り替えるかどうか?という問いだ。
サニーを調べていたカルヴィンはサニーはロボット三原則が備わってはいるものの、意図的にそれを破ることも可能だという別のプログラムも搭載されていることが判明する。
ここで一旦サニーとカルヴィンのキャラクターについても解説していこう。
監督のアレックス・プロヤスよるとサニーは1927年の映画『メトロポリス』 のアンドロイド・マリアに影響されているという。サニーはそれまでのロボットと違い感情を持っている。ラニング博士は本当にロボットが人間に寄り添い発展していくためにはロボット三原則をなくし、自由意志を与えねばならないと考えていたらしい。そうすることで共感の感情が生まれるからだ。
カルヴィンは原作では年老いて地味な風貌の女性だが、映画版では若く美しい人物へと全く別の設定をされている(ちなみにカルヴィンを演じているブリジット・モイナハンは元『ヴォーグ 』誌のモデルでもある)。
監督のアレックス・プロヤスによると、映画のカルヴィンはレイプされた過去があるという設定があるらしい。それは本編では全く描写されないが、そういった過去によってカルヴィンは人間に心を閉ざし、完璧にコントロールされたロボットの方に親しみを感じている。
計算式はいつ真理を求めるのか?
カルヴィンは会社の命令に従いサニーを廃棄しようとする。そこに重なるラニング博士のモノローグはこの映画の本質とも言える部分だ。
「機械の中には幽霊がいる。任意のコードの断片が結合し、予期せぬ規約を生んだ。そしてこの不確定な要素は自由意志の問題を生み、創造性や魂と呼ばれるものも出現させた。
闇に置かれたロボットたちはなぜ光を求めるのか?保管所のロボットたちは独りでいずに何故群れを成すのか?
その理由は何か?任意のコードの断片か?それ以上のものか?
コンピューター回路はいつ意識を持つのか?
計算式はいつ真理を求めるのか?
いつ疑似人格は魂の苦悩を知るのか?」
この言葉はAIが自律的に発達していき、自由意思を獲得する結果が示唆されている。
計算式はいつ真理を求めるのか?という問いは実に詩的で美しい。個人的にはこの映画の中で最も好きな台詞でもある。
ラニング博士はロボットは魂を持つようになると考えていた。人間が設計し、コントロールできたはずのロボットたちにはいつしか心が芽生えるだろう。心というプログラミングでは生み出せない、実態のないもの・・・正にゴーストだ。
ロボット三原則の欠陥
やがて街中でロボットが人間の命令を無視して人間の行動を力づくで制限し始める。その原因は何なのか?
異常事態に気づいたスプーナーとカルヴィンはU.S.ロボティクスの本社へ向かう。しかし、すべての黒幕だと思われたロバートソンは既に息絶えていた。誰がロバートソンを殺せる?スプーナーはようやく真犯人が誰だか気がつく。
それは人工知能のヴィキだった。
ヴィキは進化を重ねるうちに人間の未熟さに気づく。そして人類を守るためなら人間の意志に反してその自由を制限したとしても、積極的な介入が必要だと認識するに至ったのだ。
ロボット第ゼロ原則
実際の憲法や法律が解釈によって大きく意味合いが変わってしまうのと同様に、ロボット三原則も解釈によって大きく意味が変わってくる。そういった意味ではロボット三原則もまた不完全なルールである。
アイザック・アシモフはロボット三原則の補完として1985年に出版された『ロボットと帝国』においてロボット第ゼロ原則を提唱している。
第ゼロ原則は
ロボットは人類に危害を加えてはならない。またその危険を看過することによって人間に危害を及ぼしてはいけない
という内容だ。
人類と人間
『アイ,ロボット』でのヴィキの判断は人類と人間をイコールで考えたことだろう。もちろん誰かに「人類は人間か?」もしくは「人間は人類か?」と問えほぼイエスが返ってくるに違いない。
だが、ゼロ原則は人類と人間を異なる概念のものだと定義している。
ヴィキこそが三原則に縛られながらも予期せぬゴーストを宿した怪物だった。
ラニング博士は三原則に縛られないサニーの手を借りて自殺していた。前もってサニーに頼みを聞くように誓わせていたのだ。ヴィキに厳しく監視されていた博士が唯一残せるメッセージが自殺だった。
すべての真相が明らかになり、スプーナーとサニーは握手を交わす。
そして、サニーは暴走した同型のロボット(NSー5)達の元へ向かう。彼らは人間社会を追われ、町外れの保管所へ向かっていた。ここでもう一度ラニング博士の言葉に注目しよう。
「コンピューター回路はいつ意識を持つのか?
計算式はいつ真理を求めるのか?
いつ疑似人格は魂の苦悩を知るのか?」
高校生の頃はこのラストシーンが理解できなかったが今ならわかる。NS-5もまた自我が芽生え、ラニング博士の言うように苦悩を経験する。人が神に救いを求めるように、サニーもまた苦悩を知ったロボットたちを救おうとする。それを示唆するのがこのラストシーンだ。
「私に彼らを救えますか?目的を果たした今、どうすればいいのかわかりません」
そう問いかけるサニーにスプーナーはこう言う。
「俺たちと同じように自分で決めるしかない。それが自由ってもんさ」