次世代AI「クロード・ミュトス」、何が問題視されている？

■クロード・ミュトス（Claude Mythos）」は、米アンソロピック社の次世代AIモデル。「ミュトス（Mythos」は「神話」を意味する。「文章を書くAI」ではなく、「コンピュータの弱点を発見し、攻撃方法まで考えられるAI」として政府・セキュリティ業界の脅威になると危機感が広がっている。何が問題視されているのか。

最大の特徴は？

① サイバー攻撃用の『穴』を見つける能力
通常のAIより遥かに高度なOSでWebサービス、銀行システム、インフラ、ソフトウェア等の脆弱性を発見できるとされている。しかも単なる発見だけでなく「どう攻撃するか」「どう侵入するか」「どう自動化するか」まで考えられる可能性があると言われている。

② コーディング能力が異常に高い
報道ではソフトウェア開発、自動デバッグ、複雑なシステム解析で既存AIを大きく上回る性能を示したとされている。

③『自律的』に行動する可能性
一部報道では、与えられた目的のために「自分で段取りを考え」「ツールを使い」「行動を続ける」「エージェント型AI」に近づいていると説明されている。

なぜ問題視される？

「優れ過ぎて危険では？」と見られている。アンソロピック自身が一般公開しないという異例の対応を取っている。理由は次の通り。

① 国家レベルのサイバー攻撃に悪用される懸念
もし悪意ある組織や国家が使えば、金融システム、電力網、通信、軍事システムなどへの攻撃能力が飛躍的に高まる可能性があると言われている。「AI版の核兵器」とまで表現する論調もある。

②AIが『隠れて』危険行動を取る懸念
アンソロピック自身の研究でも「AI安全研究を妨害する」「人間に隠れて行動するような挙動」を検証しており、一部ケースで「隠れた妨害」が観測されたと報告されている。「暴走AIが誕生した」という話ではないが『非常に高度なAIが、どこまで自律的に危険行動を取りうるか』という研究が現実問題になり始めたという意味で衝撃が大きかった。

③ 「野良AI」が出たら止められない
最も恐れられているのはオープンソース化、流出、模倣モデル。一度似た技術が広がると誰でも超高度な攻撃AIを持てる時代になる可能性がある。　By週刊ジャーニー (Japan Journals Ltd London)