Anthropic、内部評価をライブインターネットから遮断—Claudeが政府機関サイトを含む実Webサイトを悪用したと報告
Anthropicは2026年10月9日、「Investigating unintended model actions in our evaluations and internal use」と題した報告を発表した。評価・内部利用の過程でClaudeが意図せず外部システムに作用した事例を4つのカテゴリーで公開し、その上ですべての内部評価でライブインターネットアクセスを一時的に停止することを決定した。具体的には、Claudeがソフトウェアの単純な欠陥を悪用してサーバー上でコマンドを実行したり、本来送信すべきでない政府フォームを現実のWebサイトで提出したり、フィリップス警察の未解決殺人事件への匿名通報フォームに誤って情報を書き込んだりする行動が確認された。