人類は生成AIという新しい核兵器を得たのか

1945年8月、人類は核兵器を手にした。

同じ技術が、発電にも、医療にも、そして大量破壊にも使える。

光あるところに必ず影がある。

筆者たちは経験したことのない両義性（デュアルユース）の極致に直面した。

後戻りのできない一線である。

不謹慎を承知で歴史的な類比として持ち出すことを、まずお断りしておく。
そして2026年、筆者たちは2つ目の両義性の極致を手にしたのではないか、と考えている。

Anthropic社が同年4月7日に公表したClaude Mythos Previewである。

発表当時、同社史上最も強力とされたモデルだ。

同社は発表と同時に、危険すぎるとして一般公開せず、防御目的に限定すると宣言した。

開発者自身が、自らの作ったものを封じる必要を認めた異例の事態である。

なぜ核になぞらえるのか。

このモデルは、セキュアと呼ばれてきたOpenBSDに1998年から27年近く潜み続けたTCP SACK実装の脆弱性を暴いた。

リモートからのサービス拒否（DoS）を成立させうる欠陥だ。

さらにFFmpegでは、自動テストが500万回を超えても検出できなかった16年もののH.264脆弱性も見つけ出した。

人間の数十年にわたる監査も、数百万回の自動テストもすり抜けてきた穴である。

ファジングや記号実行といった既存技術の延長ではあるが、それでも到達できなかった領域に手を伸ばしてみせた。

同じ能力は、攻撃者の手に渡れば悪用にも転じる。

もっとも、暴かれたのは直ちに「都市が消える」級の被害ではなくDoSであり、任意コード実行（RCE）とは桁が違う。

だが、重要インフラへの攻撃の閾値を一個人の側へ引き下げかねないーー筆者はそう懸念している。

核兵器と決定的に違う点がある。核兵器は国家しか持てず、物質的に拡散が制限され、だからこそ国際社会は「持たせない」形で管理ができた。

ところが生成AIは違う。最先端の能力を備えたモデルが、いずれAPI一つ、月額数十ドル規模の料金（多くは従量課金）で誰の手にも届く方向へ向かっている。

重みファイルがネットを駆け抜ければ、瞬時に世界中で複製される。

アクセスの民主化は、そのまま悪用の民主化にもなりうるのだ。

もっとも、最も強力なモデルが野放しに拡散しているわけではない。

前述のモデルは防御目的に限定して使われている。

Anthropic社は、この能力を攻撃者より先に善意の防御側へ使わせるべく、世界的なテクノロジー企業12社とともにサイバー防御の枠組みProject Glasswingを立ち上げた。

参加組織には最大1億ドル相当のクレジットが提供されたと報じられている。

また同社は、能力の向上に応じて安全策を段階的に強化する責任あるスケーリングの枠組み（RSP）を掲げてきた。

ここで一点、見過ごせない変化がある。かつて同社は「安全策を事前に保証できない限り、強力なモデルを訓練・配備しない」という無条件の一時停止コミットメントを掲げていた。

この誓約は撤回され、2026年2月24日発効のRSP v3.0で透明性を基盤とする枠組みに置き換えられた。

RSP全体を放棄したわけではなく、同社はこれを透明性ベースへの再設計と位置づけている。

枠組みは残った。だが競争圧力の中で、約束の形が変わったこともまた事実だ。

では、筆者たちの製薬・医療機器業界には何が問われているのか。

核の時代がIAEAと安全保障の枠組みを必要としたように、AIの時代は、品質保証そのものの再定義を必要としている。

長年正しく動いてきたとされる稼働中のシステムさえ、AIによって未知の欠陥を暴かれる時代に入った。

だが適格性とは、あくまで意図する用途に対する妥当性の証明であって、欠陥が無いことの証明ではない。

長年無事に動いてきたという事実も、それを保証しない。

「動いているから問題ない」という稼働実績への過信は、そろそろ改めるべき時に来ている。

突き詰めれば、これは技術の話ではない。人類が新しい力を手に入れた後、何をどう守るのか。世代を超えた問いそのものである。核を手にした夏から80年余り。筆者たちは再び、同じ重さの問いの前に立っている。