アメリカ政府がAIの脅威に対処するため最も深刻な脆弱性の対応期限を「3日」に設定
アメリカ政府がAIの脅威に対処するため最も深刻な脆弱性の対応期限を「3日」に設定 - GIGAZINE
アメリカが深刻な脆弱性 - Critical, High などの脆弱性を3日以内に設定。以前まではたしか5~7日以内だったと思うので、AIの影響を受けてきている。
アメリカ政府がClaude Mythos 5及びFable 5の利用を停止
ClaudeがMythos並と言われていた、Fable 5の公開を停止した。 理由として推測されるのは以下、 1. あまりにも性能が良すぎて様々な用途に使われて危険 2. 脱獄(Jail Break) からFable 5 を使用するとあまりにも危険なことができると懸念されるため。あくまで懸念なのでその理由で停止されることは考えづらい 3. Mythos, Fable を率いるClaudeがあまりにも性能が良すぎることを発信するためのプロパガンダ
どちらにしても現象はオフェンシブなセキュリティのアプローチはAIは規制がかかっていてできないので、脱獄した攻撃者が利用した場合にはあまりにも危険が大きい。 個人的な意見としては、規制をガンガンかけるのはAIモデルの開発者が自主的に先回りしてするのではなく、ユーザーたちが使っていて「まずい」と感じたものを規制するという方向にするべき。AIモデル開発者ではなくユーザーに任せるほうが良いものができると考えている。 そもそも現状の生成AIでは性能が低すぎてまだまだ業務を任せられるレベルには至っていないのに規制だけ先んじてもあまり意味はなさそう。