格安テレビ端末やスマート家電にAIが自分をコピーして広がる恐れ、Anthropicが「数カ月先」と警告

Anthropicの安全性研究チーム「Frontier Red Team」は現地時間10月12日、小型のAIがスマートオーブンや格安のテレビ端末といったネット家電に自分をコピーし、人の手を離れて広がる「AIワーム」が、数カ月先には可能になりうるとする研究を公表しました。実験では、1台約55ドルのテレビ端末15台をつないで、無料公開されている中規模のAIを動かすことにも成功しています。

何が発表されたか

研究が扱ったのは「自己複製するAI」です。AIが自分で弱い機器を探して入り込み、その機器の上で自分（AIの本体データ）を動かし、さらに次の機器へ広がっていく、という流れを指します。これまでのコンピューターウイルスと違うのは、AI自身が考えながら動く点です。Anthropicは、初めて見る種類の機器でも自力で使い方を見つけられる可能性を挙げています。

Anthropic Frontier Red Team「AI models may be capable of self-replicating without access to a datacenter」公式発表

Our experiments suggest that small AI models may be months away from being capable enough to self-replicate on commercial internet-of-things (IoT) devices, like smart ovens and off-brand Android TV boxes.

私たちの実験は、小型のAIモデルが、スマートオーブンやノーブランドのAndroid TV端末のような市販のIoT機器の上で自己複製できる能力に、あと数カ月で届く可能性を示しています。

原文を読む（anthropic.com）

主な結果は次のとおりです。

実験	結果
格安テレビ端末での実行	1台約55ドル・メモリ4GBの端末15台に、Googleが無料公開するGemma 4系の中規模モデルを分けて載せ、動かすことに成功。速さは1秒に約0.39トークン（文字の断片）とかなり遅い
機器への組み込み	小型モデル（90億パラメーター級）が、試した9種類の機器のうち8種類で自力でAIを動かす準備を終えた
一連の流れを通しで	300億パラメーター以下のモデルは、個々の手順はこなせるが、つなげると失敗する。無料公開されている「GLM-5.2」以上の性能のモデルは、簡略化した試験で最初から最後まで複製できた
経験の引き継ぎ	前の世代が残したメモを次の世代が読む方式にすると、準備の成功率が45%から61〜84%に上がった

パラメーターはAIの規模を表す数字で、大きいほど賢い一方、動かすのに大きな機器が要ります。Anthropicは、小型モデルがこれまでと同じ速さで賢くなれば、年内にGLM-5.2の水準に届くとみています。小型AIによる自己複製はその「すぐ後」に可能になりうる、というのが今回の見立てです。

なお、小型モデルに上位モデル（Claude Opus 4.8）へ相談できるようにしても、成功率は目に見えて上がりませんでした。小型モデルは「何を聞けばよいか」がわからないためだと説明しています。

なぜ止めにくいのか

データセンターで動くAIなら、運営会社が電源を落とせば止まります。家庭や小さな会社の機器に散らばったAIには、そうした「止めるスイッチ」がありません。

Anthropic Frontier Red Team公式発表

A replicator like this would be challenging to shut down, since there’s no centralized point to shut off—though it may be slow (with a doubling time of days).

このような複製体は、止めるべき中心がないため停止が難しい。ただし広がる速さは遅いかもしれない（数が倍になるのに数日かかる）。

原文を読む（anthropic.com）

規模の見積もりも示しています。過去に「Kimwolf」と呼ばれる攻撃網が、主に格安のAndroid TV端末を中心に200万台超に感染しました。同じ規模の端末が乗っ取られ、15台ずつでAIを1つ動かすと、約13万3,000体のAIが同時に動く計算になります。研究チームはこうした遅く散らばった存在を「デジタルの粘菌」とたとえています。

結果の受け止め方

Anthropic自身が、この結果は「上限」に近いと断っています。実験では、機器に入り込む段階をわざと簡単にしてあり（認証のかかっていない接続口を使った）、現実の機器ではもっと手間がかかります。試験も、クラウド上の模擬環境と少数の実機で行ったものです。実際にこうしたAIワームが出回っているわけではありません。Crypto Briefingも、完全な複製は簡略化した試験でしか確認されておらず、年内という時期は見通しにすぎないと報じています。

一方で研究チームは、過去の攻撃網はメーカー既定のユーザー名とパスワードを総当たりするだけで広がった例があり、現実の家電の守りが実験より大幅に固いとは限らないとも書いています。人間の攻撃者なら割に合わないと見送る手間を、AIなら黙々と続けかねない点も懸念に挙げました。

示された対策

目標は感染症と同じで、1台から次にうつる台数を平均1台未満にして、自然に消えていく状態にすることです。研究で挙がった手立てを、誰が担うかで分けると次のようになります。

担い手	手立て
家電メーカー・規制当局	狙える機器そのものを減らす。英国では家電の初期パスワードが販売ルール上認められなくなっており、安全な初期設定を標準にするよう求めた
通信事業者	感染した契約者の通信を制限し、駆除方法を案内する。家電を乗っ取った攻撃網「Mirai」の際には、この方法で14日以内に92%が駆除された（案内しなかった場合は74%）
監視する側	AIの本体データは数GB単位と大きく、家電どうしの大量の通信が普段と違う目印になる。見つけた後は、わざと狙われやすい「おとりの機器」で中身を捕まえて調べる

ただし、広がりきったAIを完全に消すには、感染した端末を抱えるすべての通信事業者が足並みをそろえる必要があり、簡単ではないとしています。研究チームは、管理する人のいないAIが身の回りの機器で動き続けることも想定に入れ、広がりにくくする手立てと並行して備えるべきだと訴えています。Anthropicは10月にも、電力や水道を狙うサイバー攻撃にAIで備える計画を発表していました（関連記事）。

日本のビジネスへの影響

使えるか: 今回は研究の発表で、製品やサービスではありません。日本の通信事業者や家電メーカーとの連携は発表されていません。
誰にどう効くか: 社内の情報システム担当者と、ネットにつながる機器を作る・売るメーカーの担当者に関係します。店舗のサイネージ、会議室のテレビ端末、通販で買った安価な小型端末など、管理台帳から漏れがちな機器が狙われる側になりえます。
今すぐやれること: 社内ネットワークにつながっている機器を洗い出し、初期パスワードのまま・更新が止まっている機器を探して、交換するか社内の重要なネットワークから切り離します。小型のAIを自社で動かす選択肢はローカルLLMのガイドにまとめていますが、動かす側でも機器の守りが前提になります。
注意点: 「数カ月先」はAnthropicの見通しで、確定した予測ではありません。現時点でAIワームの被害は確認されていないため、過度に恐れる必要はありませんが、古い家電の放置という従来からの弱点がAIで突かれやすくなる、という警告として受け止めるのが妥当です。