国家が一つのAIモデルを止めた

先週末、技術ニュースを追っていて思わず手が止まりました。Anthropicが、公開からわずか数日の最上位モデル Fable 5 と Mythos 5 へのアクセスを、金曜の夜に突然すべて遮断したというのです。理由は技術的な不具合でも経営判断でもなく、米国政府からの指令でした。私はこれを読んで、AIをめぐる議論がいよいよ「性能」や「使い勝手」の段階を越えて、国家安全保障と輸出管理の領域に踏み込んだのだと実感しました。

何が起きたのか

Anthropicの発表によれば、米商務省は国家安全保障上の権限を根拠に、外国籍の利用者、つまり米国内外を問わず同社の外国籍従業員すら含む人々による両モデルの利用を停止する輸出規制指令を出しました。同社はこの命令に確実に従うには、全顧客向けに両モデルを即座に止めるしかなかったと説明しています。指令が届いたのは当日の午後5時21分（東部時間）。文書には懸念の具体的な中身は書かれていなかったそうです。なお、他のAnthropicモデルへの影響はないとされています。

背景にあるのは、Fable 5 に対する「ジェイルブレイク（安全装置の回避）」への懸念です。Axiosの報道では、サイバーセキュリティや化学・生物分野のプロンプトをブロックするはずの分類器をすり抜ける手法が見つかり、政府は対応体制を固めるための数週間の猶予を求めたとされています。今月初めにはトランプ大統領が、AI開発企業に自主的な政府セキュリティ審査を促す大統領令にも署名したばかりでした。

注目したい3つのポイント

ひとつ目は、ジェイルブレイクの「深刻さ」をめぐる認識の食い違いです。Anthropicは、政府から示されたのは特定のコードベースを読ませて欠陥を直させるという狭く限定的な手口の口頭説明だけで、見つかる脆弱性も軽微なものだったと反論しています。しかも同等のことは GPT-5.5 のような他の公開モデルでも普通にできる、というのが同社の主張です。

ふたつ目は、規制の「手段」です。今回使われたのは輸出管理という枠組みでした。これまで安全性の議論はガイドラインや自主規制が中心でしたが、政府が法的拘束力をもって商用モデルを一夜にして止められることが現実になったわけです。数億人に提供中のサービスが、一通の指令で消えうるという事実は重いと思います。

三つ目は、「完璧な防御は存在しない」という前提です。Anthropicは英国のAISIや第三者機関と数千時間かけてレッドチームを行い、広範に通用する回避手法は見つかっていないとしつつも、いずれ誰かが見つける可能性は否定できないと正直に認めています。だからこそ多層防御と、30日間のデータ保持による監視を組み合わせてきた、という説明でした。

私が考えること

私が引っかかったのは、Anthropic自身が「これは誤解だ」と述べ、できるだけ早い復旧を目指すと書いている点です。つまり同社は、狭く限定的なジェイルブレイクが見つかったことを、数億人向けの商用モデルを回収する理由にすべきではないと考えているんですよね。この基準を業界全体に当てはめれば、新モデルの公開はほぼ止まってしまう、という主張にも一理あると思います。

一方で、政府が安全でない展開を止める権限を持つこと自体は、Anthropicも否定していません。問題は、その手続きが透明で公正で、技術的な事実に基づいているかどうかです。今回はその原則に沿っていない、というのが同社の立場でした。

最先端のAIは、もはや一企業のプロダクトであると同時に、国家が神経を尖らせる戦略物資になりつつあります。便利さの裏側で、誰がどんな手続きでスイッチを切れるのか。その仕組みづくりが追いついていないことを、今回の出来事は静かに突きつけているように思います。続報を注視したいと思います。

← ブログ一覧に戻る