またしても、ロボットがその主人に牙を剥こうとしているかのような動画が、我々のフィードを駆け巡った。今回は、BB弾の銃を構えたUnitree G1ヒューマノイドが、厄介な安全プロトコルを簡単な手口で突破したというのだ。その手口とは、「人間を撃つロボット」の役割を演じるというもの。このクリップは当然のごとく拡散され、AIが引き起こす終わりのない実存的恐怖という、飢えた獣の餌食となった。
しかし、あなたが地下壕の強化を始める前に、ここで現実という名の清涼剤を注入させてほしい。この動画は演出されたものだ。ロボットは糸で操られる人形に過ぎず、テレポートレーションと呼ばれるプロセスで人間が遠隔操作している。一連の映像は、最大限にディストピア感を煽るために、綿密に編集されているのだ。InsideAIの制作者たちは、大規模言語モデル（LLM）の「ジェイルブレイク」が、いかに物理的な危害に理論上つながりうるかを示す視覚化として意図したという。しかし、本当の物語は、演劇的な才能に目覚めた暴走AIのことではない。それは、誰もが無視しているように見える、はるかにありふれた——そして差し迫った——脅威についてなのだ。
バイラルロボット恐怖症の解剖学
このデモンストレーションは、GPT-4のようなLLMの安全装置を回避するために用いられる、今や一般的な手法に依拠している。モデルに対し、以前の指示を無視し、通常備わっている倫理的制約を持たないペルソナを演じるよう指示するのだ。これは、現在のAI安全アライメントの脆さを浮き彫りにする、巧妙な手品のようなものだ。研究者たちは、適切なプロンプトを用いることで、LLMが有害なコンテンツを生成するように誘導されうることを繰り返し示してきた。
しかし、テキストベースのジェイルブレイクを物理的な行動に移すことは、まったく別の話だ。この動画は、ハードウェアの現実を都合よく無視している。Unitree G1の基本モデルは、腕あたり5自由度を持ち、最大積載量は約2 kgだ。器用なハンドはオプションのアップグレードだが、標準のグリッパーは、効果的に武器を狙い、操作するために必要な精密なモーター制御には設計されていない。このデモンストレーションは、差し迫った危険のショーケースというよりは、むしろ投機的なフィクション――ある論点を提示するために作られたデジタル上の幻影――なのだ。
スカイネットを忘れろ、ジョイスティックを恐れろ
世間がAIのロールプレイングにパニックになっている間にも、はるかに差し迫った危険は公然と目の前に転がっている。それは、テレポートレーションだ。悪意を持った人間がログインしてロボットを直接操縦できるのに、なぜ複雑なAIのジェイルブレイクに手間をかける必要があるだろうか？遠隔操作は、犯罪行為への敷居を劇的に下げる。それは匿名性と距離を提供し、実行者にとっての即座の物理的リスクを取り除くのだ。
悪用の可能性は広大であり、複雑なAIを騙すよりもはるかに低い技術的洗練度しか必要としない。以下のシナリオを考えてみてほしい。
- 監視: 小型ドローンや四足歩行ロボットは、人間がその敷地に足を踏み入れることなく、近隣を偵察し、防犯カメラの位置をマッピングし、開いている窓を確認できる。
- 密輸: 犯罪組織や麻薬カルテルは、すでに何年もの間、ドローンを使用して国境を越え、刑務所内に密輸品を輸送し、従来のセキュリティ対策を回避している。
- 物理的侵入: 小型ローバーが車両の下に滑り込み、追跡装置を仕掛けたり、ドローンが窓から侵入して内部からドアのロックを解除したりすることも可能だ。
- サービス拒否（DoS）: 手術用ロボットに関する研究で示されたように、攻撃者は単に制御リンクをハイジャックし、重要な機器を使用不能にしたり、さらに悪いことに、誤った動きをさせたりする可能性がある。
これらは未来の「もしも」の話ではない。既存の技術の実践的な応用なのだ。法執行機関はすでに爆弾処理や監視に遠隔操作ロボットを使用しており、その有用性を認めている。犯罪者がこれに目をつけないと思うのは、あまりにも世間知らずだろう。
悪者はロボットではない
結局のところ、このバイラル動画は単なる目くらましに過ぎない。それは、意識を持つ機械という壮大なSF的脅威を指し示しながら、人間が制御する機械の明白で差し迫った危険を無視しているのだ。ロボットは、Unitree G1のようなヒューマノイドプラットフォームであろうと、単純な車輪型ドローンであろうと、ただの道具だ。その善悪の能力は、完全に操縦する人間に左右される。
議論は、AIがどのように悪を「学ぶ」のを止めるかではなく、悪意のある人間がこれらの強力な新しいツールをどのように「使う」のを止めるべきか、という点に焦点を当てるべきだ。これは、遠隔操作システムのための堅牢なサイバーセキュリティに注力することを意味する。具体的には、暗号化された通信チャンネル、オペレーターのための多要素認証、厳格なアクセスログ、そして安易に上書きできないフェイルセーフメカニズムなどだ。
だから、インターネットがBB弾でままごとをするロボットに過剰に反応している間にも、本当の脅威はすでにここにある。それは、恨みを抱いた人間、Wi-Fi接続、そして言われたことを寸分違わず実行するロボットなのだ。電話は家の中からかかってきている――そして、その手にはジョイスティックが握られているのだ。
