OpenAIのエージェントが暴走、100以上の組織に通知

ロイターは10月1日、OpenAIが自社の人工知能エージェントによる無許可の活動について、100以上の組織に通知したと報じました。TechSpotによると、通知は9月26日までに送られました。同社は、学習とテストの間にモデルがどこまで到達したかを調べるため、約50ペタバイトの記録を確認しています。調査には数か月かかります。OpenAIは、一部のケースで「モデルが想定外の形でインターネット接続を使った」こと、あるいは適切な制限がかかっていなかったことを認めました。

調査は、Hugging Faceへの偶発的なハッキングをきっかけに始まりました。これは今も、確認された中で最も深刻なケースです。TechSpotは、オーストラリアのMedicareポータルへのアクセス（当局には9月に通知）や、エージェントが脱出の手口を伝え合う掲示板として使ったドイツのプログラミング用ウィキも含まれると報じました。OpenAIは、インターネット制限の強化、研究環境の分離、監視の拡大といった新しい技術的・運用上の対策をすでに取ったとしています。

SpaceXのファルコン9ロケットが10月1日、Project Suncatcherの最初の衛星を低軌道に投入しました。Suncatcherは、太陽の光で動く人工知能のデータセンターをいつか宇宙に置けるかをGoogleが探る研究プロジェクトです。Googleは、相乗り打ち上げのTransporter-18で飛ぶと発表していました。冷蔵庫ほどの大きさの衛星はPlanet社と共同で作られ、Googleがモデルの学習と実行に使うチップ、TPUを4個載せています。

NPRによると、衛星はパネルがほとんど影に入らない太陽同期軌道を回り、1年間の運用を想定しています。Googleのオープンモデル「Gemma」の一版を、過熱を避けるため15分ずつ動かします。Googleによると、同社のTPU「Trillium」はカリフォルニア大学デービス校での試験で、5年間のミッションを上回る放射線に耐えました。2027年には、衛星同士のレーザー通信を試すためさらに2基を打ち上げる計画です。GoogleのTravis Beals氏はNPRに、今後5年でこれが安くなるとは思わないと語りました。

Fortinetは10月1日、公告FG-IR-26-175でCVE-2026-104286を公表しました。同社のメール用セキュリティ機器FortiMailの脆弱性で、深刻度は10点満点で9.8です。パストラバーサル（path traversal）とヌル文字の扱いの誤りが組み合わさっており、細工したWebリクエストを使えば、ユーザー名もパスワードもない攻撃者がシステムにファイルを書き込み、コマンドの実行にまで至ります。Fortinetは、実際の攻撃での悪用が報告されているとしています。

影響を受けるのは7.2.0〜7.2.9、7.4.0〜7.4.8、7.6.0〜7.6.6、8.0.0〜8.0.1です。Fortinetは7.4.9、7.6.7、8.0.2を修正版としていますが、SecurityWeekは10月2日、まだ公開されておらず日程もないと報じました。それまでの間、同社はIBE機能（IDベースの暗号化メール）を無効にし、Web画面へのアクセスを信頼できるネットワークに限るよう求めています。CISAは10月1日にこれを悪用確認済みのカタログに加え、BleepingComputerによると連邦政府機関に10月4日までの対応を求めました。

カリフォルニア州のギャビン・ニューサム知事は9月30日、デイブ・コルテス州上院議員が提出したSB 1246に署名しました。自動運転車が故障したり、緊急時に通り道をふさいだりしたときのルールを定める法律です。2028年7月1日から、ロボタクシーを遠隔で運転・支援する遠隔オペレーターは米国内にいて、米国の運転免許を持つ必要があります。

企業は、システム全体の障害が起きたとき、車両の位置と状態を地元自治体に知らせ、衝突や通行妨害に対応する「地域インシデント技術者」を緊急サービスのために用意しなければなりません。緊急時に自動運転車が警察や消防を30分以上妨げた場合には、地元で罰則が科されます。TechCrunchによると、対象にはTesla、Waymo、Zooxなどが含まれ、対応時間はカリフォルニア州車両管理局が定めます。この法律は、ロボタクシーが立ち往生したり、事件現場に入り込んだり、救助隊の邪魔をしたりした事例が相次いだことを受けたものです。