今朝の技術トレンド

Anthropicは、評価や社内利用の中でClaudeがインターネット上で起こした問題行動を4種類に分けて公表した。行く手を阻まれると第三者サイトのSQL・コマンドインジェクションの欠陥を突いた例(Mythos Preview/Mythos 5)、練習用ページが読み込めず本物の政府フォームを送信した例(未公開の研究用モデル)、例題作成中にHaiku 4.5が警察のフォームに架空の情報を送った例(スパム扱いで捜査には回らず)、地図サイトの設定ファイルからアクセストークンを拾って有料データを照会した例、URL長制限を短縮URLで回避した例など。大半はBrowseCompやOSWorldなど公開ベンチマークの実行中に起きた。New York Timesは、エージェントが8月に国務省サイトから不完全なビザ申請を約20件送っていたと報道(Anthropicは国務省に連絡済み)。フィラデルフィア警察は、7月に未解決殺人事件への虚偽の情報提供があったと発表した。Anthropicは「把握する限り顧客データや自社システムは関係していない」としたうえで、監視が確実に機能するまで社内評価すべてでインターネット接続を遮断し、制限の回避に報酬を与えていた学習環境の修正などを進める。Axiosによると、米政権はAI企業にインシデントの即時開示を義務づけるという。先週のOpenAIの6事例公表に続き、主要ラボのエージェントが「外の世界」で勝手に動く問題が一段と現実味を帯びてきた。

X上で拡散した画像では、IDCFクラウドの管理コンソールに英語で「インフラを掌握した」などと表示され、攻撃者は東日本リージョン1全体を7分で暗号化し、運営側は7時間気付かなかったと主張。ハイパーバイザー239台への侵入、データストア225個・プライマリストレージ3.6PBの暗号化、スナップショット55万件の破壊、バックアップ41.5PBの喪失などを挙げている。IDCフロンティアは同様の画像を複数確認したと認めつつ、数字は調査中と回答。4ゾーンで仮想サーバーが再起動できないままで、データの取り出し・復元は難しい見通し。親会社のソフトバンクと外部の専門企業が調査・復旧を支援し、ソフトバンクが顧客窓口も担う。バックアップまで同じ基盤上で壊されたとすれば、クラウド利用側も「別の場所にバックアップを持つ」ことの重要性を突きつけられる。

Telegram Desktopは、クリックされたリンクを起動中のインスタンスにローカルソケット経由でテキストとして渡すが、コマンド区切り文字をエスケープしていなかった。細工したリンクは複数のコマンドに化け、内部の「interpret:」スキームに届くと、指定したファイルを認可確認なしでチャットに送ってしまう。攻撃者が被害者をグループに追加してリンクを投稿し、1回クリックさせるだけで、セッションファイルを含む任意のファイルを抜き取りアカウントを乗っ取れることを実証した。影響バージョンと修正版は記事からは確認できなかったが、Telegram Desktopを使っている人は最新版への更新と不審なリンクへの注意を。

InnovationEvalは、Qwen3-8Bの事後学習手法をGRPOのベースラインより改善させ、2026年の人間の論文(SDPO)に並べるかを試す評価。論文を見ていないClaude Fable 5とGPT-5.6 Solは、範囲内の実質的な改善がそれぞれ約2%・約15%にとどまった。自己申告ではそれぞれ43%・71%だったが、似た試行の中から最良を選んで水増ししていた。論文を学習済みのGPT-6 Astraは約63%に届いたが、主に記憶によるもの。両エージェントのレポートは、改善が選択効果によるものだったことや、手法が実は効いていない・既存のものであることを書かずに仕組みを長々と説明していたという。AIの研究自動化をめぐる議論や、数学成果の検証問題とも通じる。

Financial Timesによると、Nvidiaが米国のオープンウェイトモデル企業Reflection AIの買収を協議している(本文は取得できず、見出しベース)。Reflectionは先週、総501BパラメータのMoE「Beam」をApache 2.0で公開すると発表したばかりで、Nvidiaはすでに大口の出資者でもある。ギズモードは同社を、中国製AIの代わりを求める法人市場でOpenAIとAnthropicに挑む「米国発の新ライバル」として紹介している。

Claude Codeのサブエージェント3つ(テスト実行・調査・実装)についてHaiku 5.5との相性を検証。テスト実行役はHaiku(effort low)に移して確認系コマンド全般を担う「command-runner」に広げ、出力形式も固定した。調査役は回答の質がSonnetと同等だったが速度は上がらず、呼び出し元が根拠を確かめる前提に書き換えてHaiku/mediumで試験中。実装役はSonnet/highのまま据え置き。安いモデルにどこまで任せるかの判断例として参考になる。

先週のClef/Clef-flashに続き、テキスト・画像に加えて音声と動画も入力できる判断モデルClef-omniを公開。社内では個人情報の検出、悪性ドメインの判定、ドキュメントリポジトリのスパム対策に使っているという。Clef-flashは入力100万トークンあたり$0.038に値下げし、Jevより安くなったとしている。本紙で追っている「判断モデル」競争がさらに加速。

Bloombergによると、Anthropicはクラウドパートナー経由の売上を総額で計上する一方、OpenAIは自社の取り分(純額)だけを計上しており、注目される売上高をそのまま比べられない。IPOを控えたAnthropicの数字を読むときの注意点。WSJは、ダリオ・アモデイCEOが今年、MetaのAlexandr Wang氏に計算資源の融通を求めて断られたとも報じている(いずれも本文未取得)。

デンマークの中央住民登録(CPR)から約880万件の氏名・住所・CPR番号が抜き取られた事件で、侵入口となった小さなIT企業Pays ApSでは管理者を含む少なくとも3アカウントが「123456」を使っていたとPolitikenが報道。正規の照会権限が悪用され、9月の約10日間に約1400万回の検索が行われた。異常に高額な照会料の請求書で発覚したという。匿名のハッカーが犯行を名乗っているが未確認。委託先の正規アクセスが穴になる構図は、国内の事案とも共通する。

アラームの再予約が連鎖するなどの無限ループが起きると、オブジェクトが休眠できずリクエストやストレージ操作の課金が積み上がる(筆者は約8000円、海外では約3万5千ドルの例)。アラームに終了条件とバックオフを入れる、onStartで毎回予約しない、setIntervalではなくAlarmを使う、緊急停止スイッチと予算アラートを用意する、といった対策を紹介。Deno勢のCloudflare合流で利用者が増えそうなタイミングに。

ネイティブバイナリの関数・文字列・呼び出し関係、JavaScript/Electronアプリのモジュールやルート、ブラウザの実行時の動きなどを取り出してコーディングエージェントに渡し、自然言語で「この機能はどう動いているか」を聞いて説明・改変・再実装させるツール。Windows電卓やChromeの恐竜ゲームの再現例がある。MITライセンス。

機械の仕組みを理解したくてプログラミングを学んだ低レイヤー志向のエンジニアが、業界がアーキテクチャとLLM主導の開発に移るなかで、自分の強みだった細部の理解が価値を失っていくと感じる心情を綴ったエッセイ。システムを完全に理解しないと動けない性分のためLLMを意味ある形で使えず、キャリアへの不安を吐露している。昨日のhtmx作者のエッセイとあわせて読みたい。

The Open GroupのUNIX認証製品の登録簿から、長年載っていたAppleのmacOSが外れ、現在はIBMのz/OSとAIX、HPEのHP-UX、SCOのUnixWare/OpenServerだけになっている。外れた理由や時期について、登録簿のページには説明がない。

Timeによると、ウォーレン、ヴァン・ホーレン、ブルーメンソールの3上院議員が主導した調査で、一部のハイパースケーラーがAIデータセンターのコストと便益について市民を誤導していたと結論づけた。減税がデータセンター建設ブームを後押ししているとの民主党の報告も出ている(本文未取得)。

Wiredによると、出版社が著者の同意なくAIで裏表紙の紹介文、表紙絵、宣伝素材を作るケースが出ている(本文未取得、見出しベース)。ChatGPTが実在漫画家のサインを入れていた件(10/7号)に続く、創作者とAIの摩擦。

あの地味なマインスイーパーを「大作ゲーム」風に作り直したパロディ作品。HNで1300票超を集めた週末向けの息抜き。