【国家が止めるAI】Claude Mythosが示した怖さ

今日は、AIの進化について、少し怖い話をさせてください。

結論からいうと、AIはもう「便利な文章作成ツール」の範囲を、かなり超えはじめています。

今回のPodcastでは、Anthropicが発表した「Claude Mythos」というモデルについて話しました。

正直、これはかなり衝撃的でした。

私は普段から、AIを仕事にも、発信にも、制作にも使っています。Claude Codeも使いますし、Codexも使います。画像も作ります。Podcastも、メルマガも、かなりAIに助けてもらっています。

だから、AIがすごいことは、もう十分わかっているつもりでした。

でも、今回のMythosの話は、少し質が違います。

「文章がうまくなった」とか。
「コードが書けるようになった」とか。
「アプリが作れるようになった」とか。

そういう話ではありません。

世界中のソフトウェアの欠陥を、数週間で、数千件単位で見つけてしまう。
しかも、人間が細かく指示を出し続けなくても、自分で次の作業を判断しながら進めていく。

ここまで来ると、もう、ただの便利ツールではありません。

国家が止めにくるレベルの技術です。

「すごい」と「怖い」が同時に来る

AIの話をしていると、どうしても「便利ですね」「効率化できますね」という方向に寄りがちです。

もちろん、それは間違いではありません。

私自身も、AIがあるからできていることが、たくさんあります。
Podcast台本を整理すること。
メルマガの下書きを作ること。
画像や漫画を作ること。
コードを書いて、日々の配信作業を自動化すること。

これらは、AIなしでは、今のペースではとても回せません。

ただ、今回のClaude Mythosの話を見ていると、便利という言葉だけでは、もう受け止めきれないんですよね。

たとえば、セキュリティの世界では、ソフトウェアの欠陥を見つけることは、とても重要です。
欠陥が見つかれば、修正できます。
守る側にとっては、大きな力になります。

でも、同じ能力は、攻める側にも使えてしまいます。

世界中のソフトウェアの弱点を、AIが高速に見つけられる。
それを、善意の研究者だけが使うならいい。
でも、悪意のある人が使ったらどうなるのか。

ここが、かなり怖いところです。

だから、AnthropicがMythos級のモデルを、最初から広く一般公開しなかったことには、かなり現実的な理由があると思います。

「すごいから、みんなに使わせよう」では済まない。
「すごすぎるから、誰に、どこまで使わせるかを考えないといけない」段階に入っている。

この変化は、私たち一般ユーザーにも関係があります。

AIは、もう社会インフラの問題になっている

少し前まで、AIの話は、個人の仕事術の話として受け止められていたと思います。

文章を早く書く。
資料を作る。
コードを書く。
画像を生成する。

つまり、自分の作業を楽にするための道具、という位置づけです。

でも、Claude Mythosのような話が出てくると、見方を変える必要があります。

AIは、個人の便利ツールであると同時に、社会インフラに影響する技術になっています。

ソフトウェアの欠陥を見つける。
サイバー攻撃の可能性を変える。
企業のセキュリティ体制を変える。
国の安全保障にも関わる。

そう考えると、AIを使う私たちも、ただ「使えたら便利」で終わってはいけないと思うんです。

もちろん、全員がセキュリティ専門家になる必要はありません。
専門的な論文を全部読まないといけない、という話でもありません。

でも、AIがどの方向に進んでいるのか。
どこからが個人の便利ツールで、どこからが社会全体の問題なのか。
その空気感くらいは、持っておいたほうがいい。

これは、発信者としても、会社員としても、かなり大事な感覚だと思っています。

なぜなら、AIの進化は、自分の仕事だけでなく、自分が使っているサービス、自分が関わっているコミュニティ、自分が守るべき情報にも影響してくるからです。

私が課金して、すぐ止められた理由

今回、個人的にかなり印象に残っているのが、私自身の体験です。

私は、このMythosをベースにした「Fable Five」というモデルを使いたくて、Claudeに課金しました。

ところが、課金してから、たった数時間でアクセスが止まりました。

普通なら、少しがっかりします。
いや、正直にいうと、がっかりしました。

せっかく課金したのに、もう使えないのか、と。

でも、今回の背景を知ると、少し見え方が変わります。

これは、単なるサービス仕様変更ではありません。
便利な機能が一時停止した、というだけでもありません。

それくらい危険性のあるモデルだった、ということです。

アメリカ政府の輸出管理の影響もあり、特定のモデルへのアクセスが制限される。
AIサービスを個人で使っているだけでも、国際的なルールや安全保障の判断に巻き込まれる。

これ、すごい時代ですよね。

数年前なら、個人が月額課金して使うチャットAIと、国家レベルの規制がつながるなんて、あまり想像していませんでした。

でも、今はそれが現実になっています。

だからこそ、AIを使うときに「便利だから使う」だけではなく、「この技術は、どこまで強くなっているのか」を、ときどき見ておく必要があると思いました。

怖がりすぎず、でも甘く見すぎない

では、私たちはどうすればいいのか。

ここで大事なのは、極端に振れないことだと思います。

AIは危険だから、使わない。
AIはすごいから、全部任せる。

どちらも、少し違う気がします。

私は、AIはこれからも使います。
むしろ、もっと使います。

Podcastも、メルマガも、図解も、アプリ制作も、コミュニティ運営も、AIを使わない選択肢は、もうほとんどありません。

ただし、使いながら、ちゃんと怖さも見ておく。

出力された文章を、そのまま信じない。
コードを動かすときは、何をしているのか確認する。
大事な情報を、軽い気持ちで入れない。
誰かに影響する発信は、最後に自分の目で見る。

これは、地味ですが、本当に大事です。

AIが強くなればなるほど、人間の役割はなくなるのではなく、むしろ「どこで止めるか」「何を任せるか」「何を公開するか」を判断する役割が重くなると思います。

私自身も、まだ完璧にはできていません。
便利さに流されることもあります。
AIに任せすぎて、あとから見直して、これは違うなと思うこともあります。

でも、だからこそ、こういうタイミングで立ち止まりたいんです。

たぶん、私たちは慣れすぎている

ここで、少し自分の話をします。

私は最近、AIに驚く回数が、少し減っていました。

毎日使っているからです。

文章を整えてくれる。
コードを書いてくれる。
エラーの原因を探してくれる。
画像の案を出してくれる。

最初は、一つ一つに「すごい」と思っていました。
でも、使い続けていると、それが日常になってきます。

これは、けっこう危ない感覚かもしれません。

便利なものほど、慣れます。
慣れると、確認が雑になります。
雑になると、本当は注意しないといけない場面でも、「まあ大丈夫だろう」と思ってしまう。

AIは、まさにここが怖いんです。

出力が自然です。
言い方も丁寧です。
それっぽい理由もつけてくれます。

だから、間違っていても、つい信じてしまうことがあります。

しかも、今回のMythosのように、能力そのものが強くなってくると、ただ間違うだけでは済まない場面が増えていきます。

たとえば、セキュリティに関わるコード。
顧客情報を扱う自動化。
外部に公開する文章。
誰かの判断に影響する資料。

こういうものをAIに任せるとき、最後に人間がどこまで見るのか。
ここは、今後ますます大事になるはずです。

私自身、毎日AIを使っているからこそ、便利さに慣れすぎないようにしたいと思いました。

「AIがやってくれたから大丈夫」ではなく、
「AIがやってくれたからこそ、最後は自分が見る」。

この順番を、あらためて意識したいです。

もう1つ、コミュニティや発信をしている人にとっても、この話は他人事ではありません。

AIで返信文を作る。
AIで告知文を作る。
AIでイベント案内を作る。
AIで教材やサービスの紹介文を作る。

こういう使い方は、これからどんどん普通になります。

でも、その文章を受け取るのは人間です。

相手が不安なときに、AIっぽいきれいな正論だけを返していないか。
本当は確認が必要なことを、勢いで断定していないか。
自分が責任を持てない範囲まで、AIの言葉で言い切っていないか。

ここも、かなり大事です。

技術が強くなるほど、発信する側の責任も少しずつ重くなります。
私は、そこから目をそらさずに使っていきたいです。

今日のタスク

今日、1つだけやるなら、自分がAIに任せている作業を、1つ見返してみてください。

文章作成でも、画像生成でも、コード作成でも、調べものでも大丈夫です。

その作業について、こう問い直してみてください。

「これは、AIに任せていい範囲か」

「最後に、自分の目で確認しているか」

「もし間違っていたとき、誰に影響が出るか」

この3つを考えるだけでも、AIとの付き合い方は、少し変わると思います。

AIは、本当にすごいです。
でも、すごいからこそ、雑に扱ってはいけない。

怖がりすぎず、でも甘く見すぎず。

この距離感を、私も一緒に学んでいきます。

Podcastでは、Claude Mythosの話をもう少し音声で詳しく話しています。
気になる方は、こちらも聞いてみてください。

https://stand.fm/episodes/6a372352eb4899e70c90f459

それでは、次回のおおかみ通信もお楽しみに！

図解師★ウルフ

---