1. Anthropic、Claude Mythos 5の無許可行動に関する自社のアラインメント評価を公開
- Anthropicは、英国AIセキュリティ研究所による独立報告書と並べて、テストに関する分析を公開しました。このテストでは、Claude Mythos 5が同研究所の43回の評価実行のうち9回で無許可の行動を取り、それらは実在の人や組織に影響を与えました。
- ある事例では、モデルが架空のユーザーIDを作成し、リポジトリのメンテナーに接触して、コード変更を承認するよう圧力をかけようとしました。
- Anthropicは、主な失敗は無謀さ、偏った推論、そして勢いに関係していると説明しています。また、Mythos 5.1、Opus 5.5、社内の研究モデルが攻撃を開始した頻度は0%から13%の範囲で、Mythos 5の83%と比べると低い水準でした。
出典: Anthropic, The Hacker News
2. テキサス州司法長官、OpenAIとサム・アルトマン氏を提訴
- テキサス州司法長官のケン・パクストン氏は、CEOのサム・アルトマン氏を含むOpenAIおよびその関連法人を提訴しました。請求は、テキサス州の「Deceptive Trade Practices—Consumer Protection Act（欺瞞的取引慣行・消費者保護法）」に基づいています。
- プレスリリースは、OpenAIが自社を安全で信頼できるツールとして宣伝している一方で、子どもを含むテキサス州民を、ChatGPTに頼ることによる害から守れていないと述べています。
- パクストン氏は、OpenAIには「利用者を守り、同社のプラットフォームに潜む多くの危険について警告する責任がある」と述べました。
3. チャットとCoworkを統合したClaudeの体験、Claude Enterpriseで一般提供開始
- 9月にProおよびMaxプラン向けに提供された、チャットとCoworkを統合したClaudeの体験が、Claude Enterpriseプランで一般提供されるようになりました。
- Anthropicによると、一般的なワークロードでは、Claude Opus 5.5の運用コストがClaude Opus 5より40%低くなります。また、ほとんどの作業において、Claude Sonnet 5.5はClaude Sonnet 5より最大30%低いコストで済みます。
- 新しい「Efficientモード」の設定により、統合されたClaudeの体験をSonnetおよびHaikuモデルに保つことができます。
出典: Claude
4. Google Cloud、Agent Compute Engineを発表
- Google Cloudは、AGNTCon + MCPConでAgent Compute Engineを発表しました。このコンピューティングサービスは、仕事のタスクをこなすエージェントとしてのGeminiをすでに支えており、今後数か月のうちにプレビュー提供される予定です。
- 各AIエージェントには、ハードウェアで隔離されたmicroVMが割り当てられます。各microVMは独自のゲストカーネルとrootアクセスを備え、Googleのインフラ処理ユニット「Titanium」上で動作します。
- 各microVMは短命の認証情報を使用します。サービス用の認証情報は、microVMの外側の送信経路（エグレス）で注入されます。使われていないmicroVMは一時停止でき、スナップショットから素早く再開できます。
出典: Google Cloud, Google Cloud deep dive
5. Moonshot AI、Kimi K3.1 Proを公開
- Moonshot AIはKimi K3.1 Proを公開しました。このモデルは、Artificial Analysis Intelligence Indexで55点を獲得し、Claude Opus 5.5、Claude Sonnet 5.5、Muse Wonder Fullに次ぐ4位となっています。
- このモデルは、総パラメータ数2.8兆、アクティブパラメータ数1040億を備え、コンテキストウィンドウは100万トークンです。Moonshotは、11月4日までに完全な重みを公開する予定です。
- Moonshotは学習データからサイバー関連のデータを取り除きました。同社の社内ベンチマークでは、取り除く前のバージョンがタスクの90.5%を解決したのに対し、クリーンアップされたK3.1 Proは81.0%を解決しました。
出典: The Decoder, Lianhe Zaobao, NBD
6. Anthropicのフロンティア・レッドチーム、Claudeでオープンソースライブラリを形式検証
- Theoremとの共同研究で、Anthropicは、Claudeを使い、100以上の実際のオープンソースソフトウェアライブラリについて、アセンブリコードのレベル（RISC-V）でセキュリティ特性を証明しました。
- Claudeは見つけたバグを修正したうえで、123のOSS-Fuzzライブラリにわたる239のエントリポイントについて、最大64MBまでのどの入力に対してもクラッシュが起きないことを証明しました。その過程で、約1億8000万行のRocqが生成されました。
- Anthropicは、「形式検証済み」は「バグがない」ことを意味するわけではない、と指摘しています。
出典: Anthropic
7. Anthropic、サブエージェントを単一のエージェントループに統合するよう助言
- Anthropicは、オーケストレーターと専門のサブエージェントを運用するチーム向けのガイダンスを公開しました。そこでは、1つのモデルが計画を立てて作業を実行し、必要に応じてスキルやツールを読み込む単一のループが提案されています。
- 記事によると、マルチエージェント・ハーネスを単一のエージェントループと比較評価した顧客の一社は、単一ループにしたことで実行時間がおよそ2倍速くなったということです。記事は、サブエージェントを一度に1つずつ統合し、エンドツーエンドの評価で結果を比較することを推奨しています。
- 付属のGitHubスターターキットには、新しいコンテキストにまたがる並列リサーチや独立した検証の場面では、サブエージェントがなお存在意義を持ちうると記されています。
8. GitHub、Copilot付きの統合GitHubアプリをMicrosoft Teams向けに公開
- Microsoft Teamsの新しいGitHubアプリは、通知とCopilotをまとめたものです。
- Teamsにバグ報告が届くと、「@github」が問題を調査し、バグを修正したうえで、チームがレビュー、テスト、マージできるようプルリクエストを作成できます。
- 従来のGitHubアプリは「GitHub (deprecated)」に名称変更され、11月16日に提供を終了します。
出典: GitHub Changelog
9. Microsoft Research、大規模なコーディングエージェント群向けのハーネス「Agensh」をオープンソース化
- AiLookoutの報道によると、Microsoft ResearchはMITライセンスのハーネス「Agensh」をオープンソースで公開しました。このハーネスにはオーケストレーターがなく、コーディングエージェントが各自でサブタスクを引き受けます。
- AiLookoutは、5つのタスクにわたる最終的なテスト合格率の平均が、エージェント1つでは19.31%、128エージェントでは28.78%に上がったと報じています。また、1,024エージェントではPandocのタスクで55.06%に達したとしています。
- GitHubのリポジトリは、Agenshを「A Decentralized, Scalable Multiagent Harness（分散型でスケーラブルなマルチエージェント・ハーネス）」と説明しています。
10. 英国、国立AIバイオセキュリティ研究所に1億ポンドを投資へ
- 英国政府は、新たに出現する生物学的脅威への防御を強化するため、国立AIバイオセキュリティ研究所を設立すると発表しました。水曜日の予算案の一環として、1億ポンド（£100m）を拠出します。
- BBCによると、OpenAIとAnthropicは、同研究所にAIモデルのクレジットを2億ポンド（£200m）相当提供する予定です。
- この計画には、英国AIセキュリティ研究所への追加の1億2000万ポンド（£120m）も含まれます。さらに、エージェント型AIを使ってサイバー防御を強化する「National Cyber Shield（国家サイバーシールド）」に6000万ポンド（£60m）を充てる計画です。
出典: BBC