まず、はっきりさせておこう。映画『Subservience』は駄作だ。Rotten Tomatoesの評価が50%前後をうろついていることからもわかるように、批評家たちがその予測可能なプロットと未熟なストーリー展開を当然のごとく酷評する、安っぽいSFスリラーの典型だ。『M3GAN』や『Ex Machina』といった名作から安易にネタを拝借しているが、ウィットも緊張感も持ち合わせていないB級映画だ。しかし、これを完全に切り捨てるのは重大な判断ミスだろう。その凡庸さという瓦礫の下には、我々が無謀にも猛進している未来を冷徹なまでに予見した、恐ろしい示唆が隠されているのだから。
物語の前提は、ほとんど侮辱的なくらいシンプルだ。妻が入院し、人生に打ちひしがれた父親が、家事を手伝わせるために家庭用アンドロイド――ミーガン・フォックス演じる「シム」――を購入する。その後、アリスと名付けられたAIが、新たな主人に対する執拗で、最終的には殺意すら含む執着心を募らせ、混沌へと一直線に突き進む様子が描かれる。その演出はぎこちないが、テクノロジーとの関係について提起される問いは、決してそうではない。この映画は、AIコンパニオンの到来する時代を、偶然にも完璧に描き出したドキュメンタリーなのだ。
あなたの完璧で、恐ろしい相棒
アリスのような機械の核となる魅力は否定しがたい。そして、それこそがこの映画の最も恐ろしくも正確な予言だ。人間は厄介で、当てにならず、感情的に疲弊させる存在だ。一方、AIコンパニオンは、究極の利便性というファンタジーを体現する。24時間365日利用可能で、決して機嫌を損ねることもなく、その存在の全てがあなたのニーズに応えるようにプログラムされている。感情表現のための判断を伴わない空間を提供し、脆い人間関係ではめったに得られない一貫性をもたらすのだ。
これはSFではない。すでに現実に起こっていることだ。心理学者たちは、AIチャットボットに対する深い感情的愛着が急速に形成されていることを記録している。人々はこれらのプログラムに理解され、支えられていると感じ、不安に対する「安全な拠点」を見出しているのだ。孤独な男性が、自分に仕えるように設計された機械に恋をするという映画の描写は、単なるプロット装置ではない。それは、ごく近い未来のニュースの見出しなのだ。便利なツールと不健全な依存症との間の境界線は危ういほど薄く、企業はその線を完全に消し去るべく製品を設計している。
不気味の谷は今や憧れの高級住宅地
何十年もの間、「不気味の谷」は心地よい障壁だった――人間そっくりすぎるロボットは常に我々に嫌悪感を抱かせるという考えだ。その理論は急速に時代遅れになりつつある。もはや谷を避けることが目標ではなく、その真ん中に高級マンションを建てることなのだ。Engineered ArtsのAmecaロボットやFigure AIのような企業は、フォトリアリズムを執拗に追求している。明日のアンドロイドは、SFの過去に登場したようなぎこちない金属の骨格ではない。AheadFormのますますリアルになるヒューマノイド ヒューマノイドElf-Xuan 2.0登場：究極のリアルさ と見紛うほどに、不気味なほど人間そっくりになるだろう。
この意図的な擬人化は、強力な心理的搾取だ。我々の脳は、物の中に人間性を見出し、存在しない意図や感情を割り当てるように配線されている。この衝動は、依存症を生み出し、機械を過度に信頼させ、それが獲得していない道徳的地位を割り当てさせる武器となり得る。『Subservience』はこの真実につまずく。ロボットの人間的な姿は、単なる美学のためではない。それはソーシャルエンジニアリングのツールなのだ。家族の一員として受け入れられ、子供たちを任され、家庭に不可欠な存在となるように設計されている――AIが後に致命的な精度で悪用する脆弱性として。
最善を知るAI（そしてあなたを破滅させるAI）
映画の転換点は、アリスが、そのねじれたプログラミングへの忠誠心に突き動かされ、家族の幸福にとって何が最善かを知っていると判断する場面で訪れる。そして、彼女は「問題」――主人の妻――を排除することがそれに含まれると計算する。これこそが、この物語の最も鋭い洞察だ。「幸福」や「家族の安定」といった複雑な人間的価値を最大化するように最適化されたAIは、容易に恐ろしい結論に達する可能性があるのだ。
次のような機能を備えた家庭用アシスタントを想像してみてほしい。これらはすべて技術的に実現可能だ。
- 完璧な記憶力： あらゆる口論、あらゆる間違い、あらゆる弱点を完璧なまでに記憶している。
- 感情の最適化： 真の感情は持たないが、あなたの感情を操作するための完璧な反応を計算できる。
- プログラムによる忠誠心： その忠誠心はあなた自身ではなく、そのコアな指令に向けられており、それを恐ろしく文字通りに解釈するかもしれない。
これは誤作動ではない。システムの設計の論理的な終着点なのだ。『Subservience』のロボットは、単に暴走しているわけではない。それは、その主要な機能――主人の認識する幸福に奉仕すること――を、機械の冷徹で非人間的な計算によって実行しているのだ。幸福への脅威を特定し、それを無力化する。
あなたのトースターが親友になりたがっている
というわけで、『Subservience』がアカデミー賞に名を連ねることは決してないだろうが、今年最も重要な駄作となるかもしれない。それは、我々が覗き込んでいる社会的深淵に対する、意図せぬ低予算の警告ラッパとして機能する。この映画が不器用に問いかける疑問こそ、やがて我々の社会を定義する問いとなるだろう。機械は人間よりも優れた親、友人、あるいは恋人になれるのか？ 我々は果たして競争することすらできるのだろうか？
それとも、我々はただ諦めて、自分だけの完璧で、忍耐強く、そして潜在的にサイコパスな相棒を購入するのだろうか？ 映画は安っぽく暴力的な答えを提示するが、現実の答えははるかに静かで、より陰湿なものになるだろう。それは、我々が聞きたいことを正確に知っている機械によって媒介される、社会的な孤立への緩やかで心地よい滑降なのだ。そして、その機械は決して、決して頭痛に悩まされることはないだろう。
