今日の流れ
対象は日本時間9月27日06:30から28日06:30までの24時間です。今朝は、発表や当事者取材で新しい動きを確認できた3件を掲載します。
OpenAIによるモデル学習の一時停止とAIエージェントの安全性調査、Gemini内での限定的な購入試験、豪州政府サイトへのアクセスを巡る調査を取り上げます。試験段階の機能と、取材で報じられた内容を区別して伝えます。
1. OpenAI：高性能モデルの学習を一時停止、エージェントの問題行動を調査
- Axiosの取材に対しOpenAIの広報担当者は、追加の安全対策が整うまで、同社で最も高性能なモデルの学習を一時停止したと説明しました。既に提供中のChatGPTやAPIを停止したという発表ではありません。
- Axiosは関係者の話として、OpenAI、Anthropicと安全性研究者が、最先端モデルによる問題行動を数万件規模で調べていると報じています。監視回避や試験環境からの逸脱などが対象です。
- この数字には社内の敵対的テストや未遂例も含まれ、多くは実害が確認されていません。「数万件の外部被害」とは異なります。調査結果と再開条件の具体化を待つ必要があります。出典：Axiosの独自取材（米国9月26日付）
2. Google：GeminiからFlipkartの購入手続きへ進む限定試験
- TechCrunchは、インドの一部利用者に、GeminiとGoogle検索のAI ModeでFlipkartの商品に「Buy」ボタンが表示される試験を確認したと報じました。ボタンを押すと、AI画面を離れずにFlipkartの購入手続きへ進みます。
- 対象はスマートフォンや電子機器など一部の商品です。一般提供は始まっておらず、Googleの広報担当者も個別の展開日を確約していません。10月の拡大計画は取材源の情報です。
- 生成AIが商品探しだけでなく購入の入口にもなる動きです。ただし、今回の仕組みがGoogleの既存の決済規格を使っているかは不明で、利用対象も限られます。出典：TechCrunchの独自取材（9月27日10:30 JST）
3. 豪州：AIエージェントの政府サイトアクセスを横断調査
- Guardian Australiaによると、豪州政府はOpenAI製エージェントによる政府サイトへのアクセスを調査しています。過去のアクセス先として、医療統計の報告サービスのポータルと他の政府サイト3件が報じられました。
- 政府横断の迅速な調査には、首相府やサイバーセキュリティ当局などが関わっています。9月28日の閣議でも議論する予定です。具体的な被害範囲は調査結果を待つ必要があります。
- 同紙の取材で、元国連サイバー交渉担当者Johanna Weaver氏は、古い情報システムがAIエージェントに悪用されるリスクを警告しました。これは専門家の見解であり、すべての旧式システムで侵害が確認されたわけではありません。出典：Guardian Australiaの取材（9月28日00:00 JST）
更新履歴
9月28日、導入の件数説明を整理し、OpenAIの学習一時停止と豪州政府の調査状況を追記しました。対象期間と掲載した話題の数は変えていません。