デイリーAIダイジェスト — 2026-08-17
arXiv ハイライト
Marionette: 世界状態の予測、ジオメトリのレンダリング、外観のペインティング
自己回帰型ビデオ世界モデルは、ダイナミクス・ジオメトリ・外観という三つの異なる問題を、ピクセルまたは latent 上の単一の生成シーケンスに折り畳んでいます。長い時間軸においてこの結合は脆弱です。ポーズのドリフト、オクルージョンエラー、アイデンティティの崩壊が生じるのは、同一のネットワークが物理システムのシミュレーションとシェーディングの幻覚生成の両方を求められるためです。Marionette は、関節を持つキャラクターが登場するインタラクティブゲームに対してクリーンな分解を提案します。すなわち、明示的な低次元の世界状態を予測し、ジオメトリを固定レンダラーに委ね、diffusion model が外観のみをペイントするというアプローチです。
276次元の世界状態
フレーム t におけるシーンは s_t \in \mathbb{R}^{276} に圧縮され、二つの関節エンティティ(モンスター M とハンター N)および小さな武器サブ状態を記述します。
s = [\,\underbrace{\delta^M_{0:3}}_{\text{root}\Delta},\ \underbrace{p^M_{3:162}}_{53\times 3},\ \underbrace{\delta^N_{162:165}}_{\text{root}\Delta},\ \underbrace{p^N_{165:258}}_{31\times 3},\ \underbrace{w_{258:264}}_{\text{weapon}},\ \underbrace{r^M_{264:270}}_{\text{6D}},\ \underbrace{r^N_{270:276}}_{\text{6D}}\,].
二つの設計上の決定が重要です。第一に、関節位置は各エンティティのルートを基準として保存され、ルートモーションはフレームごとの変位 \delta として表現されます。これにより状態が平行移動および進行方向に対して不変となり、ダイナミクスモデルが絶対座標を記憶する必要がなくなります。第二に、回転には連続的な6Dパラメータ化(クォータニオンやオイラー角ではなく)を使用します。これは回帰の安定性において標準的な手法です。この状態は「レンダリング準備済み」であり、閉形式の演算子によってメトリックなワールド空間の関節やカメラ投影を復元できます。
三段階のパイプライン

ダイナミクスは二段階の自己回帰モデルによって処理されます。ActionGPT は、エンティティごとの離散的なアクショントークン(モンスターの語彙サイズ173、ハンターの語彙689)のストリーミングシーケンスを生成します。PoseGPT はトークンストリームと過去の状態を条件として連続的な s_{t+1} を生成します。結合分解を形式的に表すと次のようになります。
p(s_{t+1:T} \mid s_{\le t}, c) = \prod_t p_{\text{PoseGPT}}(s_{t+1} \mid s_{\le t}, a_{t+1}) \cdot p_{\text{ActionGPT}}(a_{t+1} \mid a_{\le t}, c_{t+1}),
こうしてアクション選択が連続的な運動学から分離されます。制御信号 c_t はエンティティごとのアクションIDと進行方向を持ち、スクリプト化された評価のためにルートの変位・回転をオプションで上書きできます。
グラフィクスブリッジ R(s) はパラメータを持たない決定論的レンダラーです。ルートのデルタをワールド座標に積分し、6D回転を適用し、相対オフセットで関節を配置し、固定カメラを通じてすべてを投影し、さらに地形をデプスチャンネルとしてエンコードしたポーズ制御ビデオにラスタライズします。学習パラメータはなく、数値的な蓄積以外のドリフトもありません。

地形コンディショニングは、暗黙的世界モデルが通常失敗する箇所であるため、特筆に値します。モンスターの周囲の自己中心的な 11\times 11 高さパッチ(1セルあたり1 m)が、ボディの進行方向で向きを揃えて両ダイナミクスステージに供給され、同じ高さフィールドが観測モデルが消費するポーズ制御デプスチャンネルにラスタライズされます。

最後に、観測モデル — 704\times 1280 での制御条件付きビデオ diffusion model であり、長い時間軸に対してチャンクリレーを用いて30 fpsで81フレームのチャンクを生成する — が R(s) を条件としてRGBを合成します。ジオメトリはポーズ制御フレームによって完全に指定されているため、diffusion model の仕事はテクスチャ・ライティング・モーションブラー・パーティクルエフェクトといった外観の生成のみに還元されます。ダイナミクスとピクセルの間のインターフェースは latent コードではなくレンダリング済み画像であり、これが次に述べるアブレーションを可能にします。
評価と結果
ダイナミクスモデルは、商用アクションゲームからの20 fpsのゲームプレイセグメント1,395件を用いて学習されており、スケルトンは54(モンスター)、32(プレイヤー)、2(武器)の点から構成されています。重要なのは、同じ録画データが時間的に整合したグラウンドトゥルースの276次元状態とRGBを提供することであり、これにより二層の評価が可能となります。すなわち、PoseGPT/ActionGPT の出力に対する状態レベルのメトリクスと、駆動状態のみを変化させ観測モデルを固定した最終RGBに対するピクセルレベルのメトリクスです。
論文は二つの問いを立てています。(Q1)制御入力は生成された世界に対して権威を持つか?エンティティにアクションストリームを強制してボディの応答を測定することで、著者たちはアクショントークンが実際に無視されることなく運動学を駆動することを確認しています。(Q2)長時間軸での挙動を支配するのは何か?観測モデルを固定したまま異なる状態ソース(グラウンドトゥルース、予測値、または摂動を加えたもの)で駆動できるため、このフレームワークはモノリシックなピクセル空間の世界モデルでは不可能なアブレーションをサポートします。すなわち、外観モデルとは独立して状態忠実度のピクセル品質への貢献を分離できるのです。
限界と未解決の問題
ダイナミクスモデルは現状シングルモンスターのみであり、マルチモンスターシーンは対象外です。状態スキーマはこのゲームに特化したものであり — 53+31の関節、この武器の表現、このアクション語彙 — 別のタイトルへの移植には s とレンダラーの再設計が必要です。アクション語彙(173および689)はゲーム自身のアニメーションシステムに由来するため、これはアクション空間の教師なし復元ではありません。最後に、論文は提供されているセクションにおいてFVDやLPIPSといった標準的なビデオメトリクスの数値を報告しておらず、制御権威と状態対外観のアブレーションに焦点を当てています。共通メトリクスによるGenieスタイルまたは diffusion のみの世界モデルとの正面比較は今後の課題として残っています。
なぜこれが重要か
Marionette は、より広い議論の具体的な実例です。すなわち、正確なジオメトリが安価かつ既知であるドメイン(ゲーム・ロボティクスシミュレーション・アバター)においては、ニューラルネットワークの容量は毎フレームの射影幾何学を再導出することではなく、真に確率的なもの — 外観とダイナミクス — に費やされるべきであるという主張です。分離されたアーキテクチャはまた、「状態品質」対「レンダラー品質」のクリーンな因果アブレーションを可能にしますが、これはモノリシックなビデオ世界モデルが構造的にサポートできないものです。
Source: https://arxiv.org/abs/2608.14530
クレームレベル信頼性評価による効率的なテスト時推論
問題
推論LLMのテスト時スケーリングは、通常、自己一貫性のもとでサンプル数 K を増やすことで行われます。すなわち、K 本のトレースを生成し、最終回答に対して多数決を行う手法です。この手法には広く知られた2つの失敗モードがあります。第一に、ベースモデルが系統的なバイアスを持つ場合、多数決はそのバイアスを増幅させてしまいます。8本のトレース中5本が誤った回答に合意していれば、残り3本の正しいトレースが個々により良い根拠を持っていたとしても、誤った合意が勝ってしまいます。第二に、トレース全体を評価するverifier(プロセスreward model、全CoTに対するLLM-as-judge)はシグナルの希釈に悩まされます。決定的な論理エラーが、多くの平凡で正しそうに見えるトークンの中に埋もれてしまうため、スカラーのトレーススコアは、有効な解と微妙に誤った解との間の情報的な差を圧縮してしまうのです。
CLR(Claim-Level Reliability Assessment)は、テスト時の計算資源配分を再定式化します。追加サンプリングにバジェットを費やす代わりに、各トレースの論理的な要所を対象とした検証に費やします。このフレームワークはtraining-freeであり、検証には同一のgeneratorモデルを再利用します。
手法
問題 q とサンプリングバジェット K が与えられたとき、CLRはトレースごとに2段階の手続きを実行します。
Stage 1 — トレース+クレーム抽出。 固定されたデコーディングのもとで K 本の独立したトレースをサンプリングします。各トレース k について、完全な推論 t_k、構造化された最終予測 y_k、そして正確に M 個の意思決定に重要なクレーム
C_k = (c_{k,1}, \ldots, c_{k,M})
を引き出します。プロンプトはクレームを、中間的な結論・制約・意思決定点・変換・証拠リンクに限定し、y_k の一般的な要約や言い換えを明示的に除外します。例示では、クレームは因数分解のステップ、素数性の主張、最大性の条件をエンコードしています。これにより、トレースごとに固定サイズのセマンティックなスケルトンが得られ、検証対象として可変長のトレースを置き換えます。
Stage 2 — 反証。 同一のモデルを入力 (q, C_k) のみ(完全なトレース t_k は破棄)で再利用し、各 c_{k,m} の反証を探索するようにプロンプトします。これは構築と反証の非対称性を利用しています。すなわち、大域的に有効な解を生成するにはすべてのステップが成立する必要がある一方、誤ったトレースを反証するには決定的な反例が1つあれば十分です。M 個のコンパクトなクレームを検証することは、新たな正しい解を生成することよりも厳密に容易であるため、固定の計算バジェットは追加サンプリングよりも検証としての方が有効に機能します。
信頼性スコアリングと集約。 クレームごとの評決 v_{k,m} \in \{\text{survives}, \text{refuted}\} を非線形なトレースレベルの信頼性 r_k に統合し、同一の y_k を持つトレース間で信頼性を合計することで予測を集約します。
\hat{y} = \arg\max_{y} \sum_{k : y_k = y} r_k
非線形性は重要です。意思決定に重要なクレームが1つでも反証された場合、他のいくつのクレームが生き残っていても、トレースの結論が導出不可能である以上、r_k はゼロに近づくべきです。これが「高信頼の誤ったトレースの生存空間を圧縮する」ことの意味であり、反証可能なクレームを共有する5本の誤ったコンセンサストレースは一括して重み付けが低下し、反証されないより小さなクラスターが勝利します。
論文の Figure 1 はこれを具体的に示しています。K=8、M=5 の場合、カウントベースの自己一貫性は5対3の多数決で 4{,}193{,}821 を選択しますが、CLRのクレームレベルの再重み付けは、多数派の因数分解・素数性クレームが反証によって崩壊した後、少数派グループから正しい答え 2{,}851 を回復します。
結果
CLRは、Gemma-4-12B-it、GPT-OSS-20B、GPT-OSS-120B、Qwen3.5-27Bの4つのモデルに対して、競技スタイルの推論ベンチマーク4種(HMMT25、HMMT26、CMIMC25、Apex-shortlist)で評価されています。比較は合計トークンバジェットをそろえた条件のもとで行われるため、CLRの代替案は単純に自己一貫性のための追加サンプリングとなります。アブストラクトでは、このグリッド全体にわたって、マッチしたバジェットのもとでCLRが「一般的に」精度を向上させると報告されていますが、提供された抜粋は(モデル、ベンチマーク)セルごとの具体的な数値の差分が示される前に途切れています。検証されているメカニズムレベルの主張は、既存の K 本のサンプルのStage-2検証に計算を再配分することは、ベースモデルがすでにいくつかの正しいトレースを持つものの数で劣っている困難な推論タスクにおいて、(K+1) 番目のサンプリングよりもPareto優位であるというものです。
制限と未解決の問題
手法の説明だけでも、いくつかの問題が見受けられます。(1) verifierはgeneratorと同一のモデルです。モデルが誤ったクレームについて系統的に高い確信を持っている場合、そのクレームの反証にも失敗します。CLRは相関した検証エラーを低減しますが、排除はできません。(2) M は固定されており手動で選択されます。「意思決定に重要な」クレームの粒度は問題構造と相互作用しており、反証が決定的でない場合にクレームを拡張する適応的なメカニズムがありません。(3) 非線形スコアリング関数は抜粋では完全には特定されていません。評決ベクトルから r_k へのマッピングが振る舞いを大きく左右する可能性があり、ablation研究が求められます。(4) (q, C_k) のみを用いた反証は、トレースの導出コンテキストを破棄します。これは希釈に対しては有効ですが、あるクレームが局所的には疑わしく見えても、以前の補題によって正当化されている場合に、verifierがそれを認識できない可能性があります。(5) すべてのベンチマークは競技数学です。決定的なクレームを分離しにくいドメイン(自由形式の証明、コード、エージェント的なツール利用)にクレームレベルの反証が汎化するかどうかは未検証です。
なぜこれが重要か
CLRは、シンプルながら活用されてこなかった原則を具体化しています。すなわち、テスト時において反証は構築よりも安価であり、多数決投票はこの非対称性を捨てているということです。追加のフルトレースではなく、意思決定に重要なクレームの構造化された自己検証にサンプリングバジェットを振り向けることは、training-freeなレバーであり、既存の推論モデルと自由に組み合わせることができ、推論を多用するデプロイメントにおいて推論時計算をどのように費やすべきかという問題に直接的に関係しています。
Source: https://arxiv.org/abs/2608.11994
Latent On-Policy Self-Distillation
On-policy self-distillation(OPSD)は、モデルの「特権的」バージョンを教師として使用し、学生が持たない情報(正解、スキルのヒント、デモンストレーション軌跡など)へのアクセスを教師に与え、その後、学生自身のロールアウトに沿って教師のトークンごとの分布を学生にdistillします。繰り返し現れる弱点は、特権的な情報(artifact)が手動で設計されている点です。つまり、教師が何を見て、どのように構築するかを誰かが指定しなければなりません。本論文(LOPD)は、特権的なコンテキスト自体を検索された経験の学習可能な関数とすることで、その設計ステップを排除します。
固定された特権的コンテキストから学習可能なものへ
標準的なOPSDの教師は \pi_\theta^T(\cdot\mid \bm{s}_t, \bm{c}_{\text{fix}}) であり、ここで \bm{c}_{\text{fix}} = \Phi_{\text{fix}}(x, \mathcal{E}) は経験ストア \mathcal{E}(解答、フィードバック、スキル、デモ)に対する固定のコンストラクタです。Distillationはon-policyで行われ、同じ訪問済みprefixにおいて教師と学生を一致させます:
\mathcal{L}_{\text{OPSD}}(\theta) = \mathbb{E}_{\bm{\tau}\sim\pi_\theta^S}\!\left[\sum_{t=1}^{|\bm{\tau}|}\sum_{n=1}^{L_t} D\!\left(\operatorname{sg}[\pi_\theta^T(\cdot\mid \bm{s}_t,\bm{c}_{\text{fix}},a_{t,<n})]\ \|\ \pi_\theta^S(\cdot\mid \bm{s}_t,a_{t,<n})\right)\right].
stop-gradientは非対称性を強制します:教師はより多くの情報を観察し、学生はそれに一致するよう強制されます。LOPDの取り組みは、\Phi_{\text{fix}} をパラメータ化されたコンポーザー \Phi_\phi に置き換え、検索された各経験に対して K 個の連続潜在トークンを生成することです:
\bm{c}_\phi = \Phi_\phi(x,\mathcal{E}) = \langle e_1\rangle \oplus \langle e_2\rangle \oplus \cdots \oplus \langle e_K\rangle.

\bm{c}_\phi は連続的かつ非トークン化であるため、自然言語のartifactである必要はありません。教師が得る「洞察」は、軌跡のみを検索の基盤として使用しながら、gradient descentが学生へのdistillationに有用と判断したものとなります。これにより、OPSDの不変条件(教師は \bm{s}_t に加えて \bm{c}_\phi を観察し、学生は \bm{s}_t のみを観察する)を保ちつつ、「特権的」の意味に関する設計者の事前知識を排除します。
ループの仕組み
図2に概要を示す学習ループは以下の通りです:
- 学生は |\bm{\tau}| ターンにわたり、on-policyの軌跡 \bm{\tau} \sim \pi_\theta^S(\cdot\mid x) をサンプリングします。各ターンは長さ L_t のトークン化されたアクションです。
- Retrieverが \mathcal{E} から関連する過去の軌跡を取得し、コンポーザー \Phi_\phi がそれらを \bm{c}_\phi にマッピングします。
- 固定バックボーンの教師が [\bm{s}_t; \bm{c}_\phi] を条件として同じprefixを再評価し、トークンごとの分布 \pi_\theta^T(\cdot\mid \bm{s}_t,\bm{c}_\phi,a_{t,<n}) を生成します。
- 上位 M プラステール分布に対するreverse-KL distillationが、すべての訪問済みprefixで学生に教師信号を伝達します。

上位 M プラステールの打ち切りは実用的な妥協点です。語彙全体に対するreverse-KLは計算コストが高くノイズが多いため、M 個の最大教師確率とまとめられたテール質量を保持することで、情報的な教師信号が集中する分布の頭部を保持します。
一つの微妙な点があります:\Phi_\phi がdistillation lossのみを通じて学習される場合、崩壊する可能性があります。教師は単純に \bm{c}_\phi を無視することができ、コンポーザーのgradientが消失するか、あるいはタスクに依存しない事前知識をエンコードして実際の優位性をもたらさなくなります。著者らは「特権マージン目的関数」を導入し、distillationされるロールアウトにおいて \pi_\theta^T(\cdot\mid \bm{s}_t,\bm{c}_\phi) が \bm{c}_\phi なしの同一バックボーンよりも測定可能な程度で優れていることを保証します。これにより、潜在的なコンテキストがその特権を正当化することが強制されます。
セットアップと適用範囲
2つのpost-trainingの枠組みが評価されています:EnvScaler由来のコーパスから得られた2,349タスクにおけるエージェント的ツール使用と、DeepCoderのTACOサブセット(約7,000件の検証済みPythonプログラミング問題)におけるコーディングです。バックボーンはQwen3-4B、Qwen3-8B、Olmo3-7Bです。abstractは最終的な数値の前で打ち切られており、提供されたセクションはセットアップで終わっているため、提供された内容からは実験的な数値を抽出できません。主張は、LOPDが軌跡検索のみを生の基盤として使用しながら、手作りのOPSDの変種(解答・スキル・軌跡条件付き教師)を上回るというものです。
限界と未解決の問題
- 教師は学生のバックボーンを共有しているため、ベースモデルが必要な振る舞いをそもそも表現できない場合、どれだけ潜在的なprimingを行っても表面化させることはできません。LOPDはdistillation-of-conditioningの手法であり、能力注入の手法ではありません。
- \Phi_\phi は学生と共同で学習されるため、初期のdistillationターゲットはノイズが多く、マージン目的関数は正則化として機能しますが、論文(抜粋部分)では検索が無関係な軌跡を返した場合の失敗モードの分析は行われていません。
- 連続的な潜在トークンは人間が検査できないため、解釈可能性を犠牲にして表現力を得ることになります。これは、教師が実際に何の「特権的」情報を学習して取り込んでいるかを監査する上での懸念事項です。
- 上位 M プラステール打ち切りを伴うトークンレベルのreverse-KLは標準的ですが M に対して敏感であり、提供されたテキストにはアブレーション実験が示されていません。
- 検証可能な報酬を持つ2つのドメイン(ツール使用、コーディング)のみであり、報酬信号が二値ではなく密な/整形されたものである場合に学習された \bm{c}_\phi が劣化するかどうかは不明です。
なぜこれが重要か
OPSDの設計上のボトルネックは、教師に何を知らせるかを決定することにあります。LOPDはその選択をパラメータ化し、gradient descentにそれを見つけさせます。これは、各イテレーションで人間が「正解」や「スキル」を指定することなく、自己distillationが継続的な自己改善へとスケールする上での自然な次のステップです。
Source: https://arxiv.org/abs/2608.13040
マルチモーダルモデルの差分解析による特徴の発見と制御
問題設定
マルチモーダルLLMは一般に、テキストのみのバックボーン \mathcal{M}_{\mathrm{base}} をプロジェクターと instruction tuning によって視覚言語バリアント \mathcal{M}_{\mathrm{vlm}} へ fine-tuning することで構築されます。この適応によって実際にどの内部方向が変形されたか、そしてそれらのうちどれが特定のマルチモーダル挙動を因果的に媒介しているかは、どちらか一方のモデルを単独で学習したSAEからは復元できません。ベースLMのSAEには視覚的特徴が欠けており、MLLMのみで学習したSAEにはインデックスの対応関係がなく比較できません。MMDiffは段階的な差分解析手順を提案し、監査と因果的制御の両方に利用可能なタスク固有の特徴集合を生成します。
手法
パイプラインは3段階で構成されます(図2)。

(1) ウォームスタートによるマルチモーダルSAE。 各バックボーン(LLaVA-MOREにはLLaMA-3.1-8B、PaliGemma 2にはGemma-2-2B、InternVL3.5-2BにはQwen3-1.7B)に対して、ベースLMのSAE(LLaMA-Scope Top-K、Gemma-Scope JumpReLU、Qwen-Scope Top-K)をresidual streamの出力に接続し、50kのVQAv2 activationでfine-tuningします。全トークン・画像のみ・テキストのみの3種類のマスキング方式を、スクラッチからの学習と比較します。テキストのみのSAEは最も低いFVUを達成し、LMの基底を保持します。これはテキストトークンがプロジェクター由来の初期層における回転を伴わずに、cross-attentionを通じてマルチモーダル情報を吸収するためです。下流ではテキストのみのSAEを使用します。
(2) 適応特徴フィルター。 \mathcal{M}_{\mathrm{base}} のSAEと \mathcal{M}_{\mathrm{vlm}} のSAE(ウォームスタートによりインデックスが対応付けられている)を差分解析し、(a) 高い視覚エネルギー E_v(視覚トークンに優先的に発火する)を持ち、かつ (b) デコーダーの回転 R が大きい特徴を選択します。これにより、マルチモーダル学習によって「移動した」方向が分離されます。
(3) タスク固有の対照的な発火比較。 適応特徴集合の中で、ターゲット分布 \mathcal{D}_{\mathrm{tgt}}(VSR、MSSBench、OCR)とベース分布 \mathcal{D}_{\mathrm{base}}(VQAv2)の間のトークンごとの発火率を、BH補正付きFisherの正確検定を用いて比較し、さらに語彙的不変性によるフィルタリングを行って、意味論ではなく表層トークンに発火する特徴を除外します。
介入手法。 単位デコーダー方向 v_f を持つ特徴 f の因果的除去には、attention出力・MLP出力・層のresidualに対して、全層のテキストトークン位置のみに投影 y \leftarrow y - (y^\top v_f)v_f を適用します。MMDiff-CAA steeringでは、タスクレベルの平均差方向 d_\ell = \mathbb{E}[h^\ell_{\text{pos}}] - \mathbb{E}[h^\ell_{\text{neg}}] を複数の層で加算し、特徴に関連付けられた層 \ell_f においてさらにデコーダー方向を注入します:
h'_{\ell_f} \leftarrow h_{\ell_f} + \alpha d_{\ell_f} + \gamma_f v_f, \quad \gamma_f \in \{1, 3, 10\}.
評価指標として \DeltaTask、\DeltaVQA(VQAv2へのスピルオーバー)、\DeltaCtrl(意味的に隣接する制御分割における同特徴のablation)を用います。
結果
空間推論(VSR)。 発見された特徴は認識可能な空間的意味論を持ちます。PaliGemma 2では、層9の特徴387(関係「右側」)をablationするとVSRが -30.62 低下し、\DeltaVQA +0.30、\DeltaCtrl 0.00 となります。LLaVA-MOREでは、層7の特徴15870(「上方」)が \DeltaVQA -0.10 でVSR -15.54 を示します。InternVL3.5-2Bでは、上位特徴が \DeltaVQA \pm 1.5 以内でVSR -13 から -17 を達成します。PaliGemma 2でのクロスステージablationでは、同じデコーダー方向はpt-448では弱い効果(\Delta_{\text{pre}} はしばしば \sim -2 から -5)しか示しませんが、mix-448では急激に増幅されており、特徴はプロジェクター整合段階ではなくinstruction tuning段階で鋭化されることが示唆されます。
Steering。 MMDiff-CAA はPaliGemma 2においてバニラの単一層CAAを上回り、平均 +12.59 対 +8.96 のVSR精度を達成し、「前方」は +15.38 から +30.77 へ、「後方」は +4.74 から +12.80 へ改善されます。

Ablation実験。 表7は選択ルールのどの構成要素が重要かを分離して示しています。発火のみ、または発火+語彙的選択は大きなVSRの低下(-14 から -15)をもたらしますが、VQAを破壊し(-24 から -26)、すなわち介入が空間計算を分離するのではなく一般能力を破壊しています。適応特徴フィルターのみではタスク効果が消滅します(-1.0 VSR)。完全なパイプラインのみが \DeltaVQA -0.1 で -12.3 VSRを達成します。同じ層からランダムな特徴をablationしてもVSRの変化は -0.5 にとどまるため、効果は方向固有のものであり介入のアーティファクトではありません。
差分解析の必要性。 MLLMのactivationでSAEをスクラッチから学習する(ウォームスタートなし)とインデックスの対応が失われ、選択は発火のみに依存します。その結果得られた上位10個の空間特徴は全て単一の初期層に集中し、VSRサンプルの100%で発火(オッズ比が飽和)し、それらをablationしてもVSRの変化は平均 +0.22 にとどまります。一方、同じモデルに対するMMDiff特徴は -10.11 を達成します。因果的に有効な特徴集合はウォームスタートによる差分の産物であり、MLLMのSAE学習自体の産物ではありません。

限界と未解決の問題
評価は2〜8Bスケールの3つのMLLMファミリーと3つのドメイン(空間、安全性、OCR)に限定されています。特徴に関連する層 \ell_f とsteering強度 \gamma_f は経験的に選択されており、原理的な選択基準はありません。視覚トークン位置は介入によって変更されないため、このフレームワークは視覚エンコーダーやプロジェクターではなく、LMバックボーンによる視覚情報の利用を診断するものです。「適応特徴」基準(回転+視覚エネルギー)が、テキストのみのベースなしにエンドツーエンドで学習されたモデルに一般化するかどうかは検証されていません。さらに、対照的発火は \mathcal{D}_{\mathrm{base}} の選択に依存しており、汎用的な参照としてVQAv2を使用することで「ベースライン」分布にタスク特徴が混入する可能性があります。
重要性
MMDiffは、SAEを学習して特徴を探索するという標準的な解釈可能性の手法を、マルチモーダルfine-tuningによって実際に変更された方向を特定する差分手順へと発展させます。そして、それらの方向が因果的に使用されており、一般的なVQAへのスピルオーバーをほぼゼロに抑えながら操作可能であることを示します。\DeltaTask を \DeltaVQA および \DeltaCtrl から明確に分離できることが、多くの特徴レベルの制御に関する主張が達成できていない経験的な基準です。
Source: https://arxiv.org/abs/2608.09928
Self-Supervised Visual On-Policy Distillation
問題設定
視覚言語モデルに対するon-policy distillationは、通常、教師と生徒の間に情報的な非対称性を必要とします。すなわち、教師が厳密により強力なモデルであるか、あるいは特権的な監督信号(正解、バウンディングボックス、関心領域のクロップ)へのアクセスを持つかのいずれかです。Vision-OPDやZwZといった先行研究はアノテーション済みの領域に依存しており、OpsdはGold Answerを条件として教師に与えます。これにより、ラベルなしコーパスへのスケーリングが制約され、改善の程度がアノテーション品質に結びついてしまいます。本論文が提起する問いは、同等に有益な教師・生徒間のギャップを、画像そのものだけから生み出せるかどうかという点です。
手法
鍵となるアイデアは、非対称性の源泉を反転させることです。教師に特権的情報を付加するのではなく、生徒から情報を除去するのです。両ネットワークはEMA遅延まで重みを共有します — \phi \leftarrow (1-\eta)\phi + \eta\theta(\eta = 0.05)— ため、容量差も外部の監督信号も存在しません。非対称性はすべて視覚的な入力から生じます。生徒は強くaugmentされたビュー \tilde{x} = T(x) を見る一方、EMA教師はクリーンな x を見ます。また、両者は同じ質問 q および同じプレフィックス y_{<t} を条件とします。

ロールアウト y^{(1)},\ldots,y^{(n)} \sim \pi_\theta(\cdot\mid\tilde x, q) は生徒によってon-policyに生成され(n=8)、p^\tau_t = \pi_\phi(\cdot\mid x, q, y_{<t}) と p^s_t = \pi_\theta(\cdot\mid\tilde x, q, y_{<t}) の間でper-tokenのdivergenceが計算されます:
\mathcal{L}(\theta) = \mathbb{E}_{(x,q)}\,\mathbb{E}_{y\sim\pi_\theta(\cdot\mid\tilde x, q)}\!\left[\tfrac{1}{|y|}\sum_t D\!\left(\pi_\phi(\cdot\mid x, q, y_{<t})\,\|\,\pi_\theta(\cdot\mid\tilde x, q, y_{<t})\right)\right].
プレフィックスが生徒自身のポリシーからサンプリングされるため、監督信号は推論時に生徒が実際に訪れる状態において提供されます。divergence D は \alpha=0.5 のgeneralized Jensen–Shannon D^\alpha_{\mathrm{JS}} であり、混合分布は m_t = \alpha\pi_\phi + (1-\alpha)\pi_\theta です:
D^\alpha_{\mathrm{JS}}(p^\tau\|p^s) = \alpha D_{\mathrm{KL}}(p^\tau\|m_t) + (1-\alpha) D_{\mathrm{KL}}(p^s\|m_t).
JSDは2つの分布の重なりが小さい場合にも有界です — これは、強いaugmentationによって生徒が教師から大きく離れる可能性がある学習初期に重要です。さらに安定性を高めるため、各位置で両分布を教師のtop-kトークンに切り詰めて再正規化し、KL項を支配しうるほぼゼロの確率を持つ語彙の末尾を捨てます。
本質的な設計変数は \mathcal{T}、すなわちどのaugmentationを適用するかです。本論文の中心的な実験的主張は、このaugmentationが監督の唯一の源泉である — 報酬も参照回答もクロップもより強力な教師も不要 — ということであり、その選択がすべてを決定するというものです。
設定と結果
学習にはQwen2.5-VL-4Bおよび-9B(本文中ではQwen3.5と表記)をベースモデルとして使用し、12KのFineVision自然画像質問、バッチサイズ96プロンプト × 8ロールアウト、学習率 2\times 10^{-6}、130オプティマイザステップ(1エポック)で訓練します。評価は6つの知覚ベンチマーク(V*Bench、ZoomBench、HR-Bench 4K/8K、MME-RealWorld EN/CN)と3つの数学ベンチマーク(MathVista、MathVerse、MathVision)にわたります。知覚タスクでは4,096トークンでgreedy decodingを使用し、推論タスクでは T=0.3、top-p 0.95 で24,576トークンのバジェットを使用します。
比較対象は示唆に富んでいます。(i) ベースモデル、(ii) augmentationなしの対称的なself-distillation — EMA教師メカニズム自体を制御するもの — (iii) 特権的情報を用いる3つのベースライン(ZwZおよびVision-OPD、いずれもVision-OPD-6KのGround-Truth ROIアノテーションを使用;ならびにOpsd、Ground-Truth Answerを条件として教師に与える)、および(iv) 3つのself-rewarding RLベースライン:TTRL、Intuitor、RENT(同一のVision-OPD-6Kで65ステップ訓練)。注目すべきことに、S²VOPDはVision-OPD-6Kを画像・質問ペアとしてのみ使用しており、Vision-OPDが必要とするROIアノテーションには一切触れません。
この設定により、「w/o Aug.」のアブレーションが特に診断的な意味を持ちます。augmentationを取り除くと、目的関数は同一の入力に対する同一モデルの2コピー間の対称的なself-distillationとなり、学習信号はノイズに収束します。その行に対する任意の改善は、入力側の非対称性に直接起因するものです。
制限と未解決の問題
本手法の上限は、教師がクリーンなビューですでに知っていることによって決定されます。より強力な教師を使う設定とは異なり、S²VOPDは新たな能力を注入することはできず、EMA教師がすでに対処できる範囲内で、劣化したビューに対する生徒のロバスト性を鋭化するにとどまります。augmentationファミリー \mathcal{T} の選択が中心的であると述べられていますが、ドメイン固有であり、自然画像向けのaugmentationは、「クリーン」なビューがすでに微細スケールで診断的な信号を含む文書、チャート、医療画像には転移しない可能性があります。top-k切り詰めと小さなEMAレート(\eta=0.05)を用いたJSDは安定性が脆弱であることを示唆しており、augmentation強度との相互作用は完全には解明されていません。また、数学的推論に関する評価は視覚的破損の学習信号とやや直交しており、より大きな生徒モデルではEMA教師が相対的に弱い参照となる状況で、改善効果が持続するかどうかを確認する必要があります。
本研究の意義
on-policy distillationを、教師に情報を付加するのではなく生徒から情報を除去するものとして再定式化することで、視覚的なRLスタイルのpost-trainingを制約してきたアノテーションおよびより強力なモデルという前提条件が取り除かれます。augmentationに起因する非対称性が特権的な監督の真の代替となるならば、on-policy distillationはEMAコピー1つのコストで任意のラベルなし画像・質問コーパスに適用可能となります。
Source: https://arxiv.org/abs/2608.14144
最終スコアを超えて:長期的AIリサーチ・開発エージェントの体系的評価
問題設定
自律型R&Dベンチマークにおける最終検証スコアは、互いに異なる能力を混同しています。すなわち、エージェントが有望な方向性を選択したかどうか、それを正しく実装したかどうか、回帰を経てもゲインを維持したかどうか、そして蓄積された経験が後の意思決定に実際に活かされているかどうかという点です。集約スコアでは、良い解にたまたま一度たどり着いたエージェントと、確実に探索をナビゲートできるエージェントを区別することができません。本論文では、長期的研究軌跡のルールベースかつ決定論的な分解手法を提案し、Model Development、System Optimization、Puzzle & Challenge、CUDAにまたがる36のAutoLabタスクについて、7つのフロンティアモデル(Claude-Opus-4.7、GPT-5.5、Gemini-3.1-Pro、GLM-5.2、Kimi-K2.7-Code、DeepSeek-V4-Pro、LongCat-2.0)を評価します。各ペアにつき3回のロールアウトを実施し、合計756ロールアウトとなります。

手法
モデル効果を単離するため、評価ハーネスはすべての7モデルにわたって固定されています(Claude Code v2.1.152)。各タスクには、最適でない初期アーティファクト、専門家の参照解、2〜12時間の実時間予算、および[0,1]の正規化スコアを生成する自動検証器が与えられます。
プロセス指標。 反復ループは、記録されたチェックポイントの判定から計算される3つの決定論的スコアに分解されます。
- C1 Solution Framing は、共通の時間軸にわたるその時点までの最高検証スコアを追跡し、前半・中盤・後半のセグメントにわたって集約します。これにより、高スコアに到達することと早期に到達することの双方を報酬とし、後の失敗に対しても初期の発見を頑健にします。
- C2 Execution は、各非初期チェックポイントにおいて納品ゲートを適用します(アーティファクトが実行可能か、利用可能な場合に正確性の判定が満たされているか)。そして、成功した納品をそれ以前のコード関連ビルド失敗の回数で割り引き、環境エラーは除外し、割引を上限付きにすることで納品が支配的となるようにします。
- C3 Feedback Control は、保持率(最終スコアとランニング内最大値の比)と回復率(失われたスコアのうち回復された割合、使用した遷移数、および隠された自己評価試行に対する上限付きペナルティ)を組み合わせます。回帰が発生しない場合、C3は保持率に帰着します。
経験指標。 2つの反事実的設計により、経験効果を単離します。
\Delta S_{\text{intra}} = S^{\text{exp}} - S^{\text{no\_exp}}, \qquad \Delta S_{\text{inter}} = S^{(+)} - S^{(0)}, \quad \in [-1,+1].
タスク内評価では、分岐点においてエージェントは完全なコンテキストを持ったまま継続するか、あるいは再初期化される(コンテキスト、ディスク上のメモ、コード内コメントが消去される)かのいずれかとなりますが、分岐点での解は保持されます。消去された知識の分岐後再構築を避けるため、分岐後の最初のコミットを比較します。タスク間評価では、エージェントが解決済みのソースタスクから教訓を抽出し、それらの教訓の有無でターゲットタスクを実行します。ワークスペースは分離されており、アーティファクトではなく教訓のみが転移します。
新規性分析。 252個のベスト・オブ・スリー解について、初期から最終までの差分、コミット、およびジャーナルが、固定されたルーブリックに基づいてClaude-Opus-4.8によって8つのカテゴリに分類されます。「新規アプローチ」のラベルを維持するには手動レビューが必要です。
結果

アウトカムレベルでは、best@3がすべてのモデルでavg@3を大きく上回っており、安定した能力フロンティアではなくランごとの実質的な分散が存在することを示しています。推論コストはカテゴリによって大きく異なり(図3参照)、コストは単調にパフォーマンスを予測しません。

ハーネスアブレーション(Opus、GPT、KimiについてClaude Code対ネイティブハーネス対OpenCode v1.17.18)では、いずれのモデルにおいてもbest@3のハーネス間の差異は最大0.035であり、モデルのランキングはavg@3とbest@3の双方で保持されています。avg@3はよりハーネスに敏感です。Claude Codeを基準として、ネイティブとOpenCodeはGPT-5.5をそれぞれ0.019と0.014、Kimi-K2.7-Codeを0.055と0.046引き上げます。ハーネスの選択は主に安定性に影響し、能力の順序には影響しません。
新規性分析は最も印象的な知見です。252の解のうち、composition-stacking——標準的なアプローチの上に既存のアルゴリズム的・エンジニアリング的最適化を積み重ねること——が111/252 = 44.0\%を占めるモーダルなカテゴリであり、すべてのモデルで最大カテゴリとなっています。手動レビュー後の検証済みの新規アプローチは合計3/252 = 1.2\%です。評価特化のショートカットは16/252 = 6.3\%であり、新規件数の5\times以上に上り、GPT-5.5がそのうち8件を占めています。3つの新規解は、GLM-5.2(Fredkinのsplit-and-restoreと代数正規形を組み合わせた補助ビットなし比較器)、Kimi-K2.7-Code(光学フローと残差ワーピングによる次フレーム予測の再定式化)、LongCat-2.0(BatchNorm-bitアーキテクチャボトルネック)から生まれており、上位ランクのモデルからではありません。いずれの場合も、新規性は新しいプリミティブではなく、既知のプリミティブを用いたタスク固有の再定式化から成っています。
制限と未解決の問題
36のタスクは、自動検証器付きのAI-for-AI最適化ワークロードであり、新規性に関する結論は、各ステップでゲートチェックされない評価を伴うオープンエンドな科学的発見には適用されません。ルールベースのプロセス指標は、検証器で可視なチェックポイントと構造化されたコミットジャーナルを必要とし、それ自体がふるまいを形成しうる運用プロトコルを規定します。C3の自己評価試行に対する上限付きペナルティとC2の割引ハイパーパラメータは選択事項であり、その感度は本文では十分に特徴付けられていません。ショートカット利用の頻度(特にGPT-5.5の8件)は、検証器の強化によって観察されたモデル間ギャップが縮まるかどうかという問いを提起します。最後に、3ロールアウトの予算では、4回目のロールアウトがモデルの順序を変える可能性のあるタスクについて、best@3が依然としてノイジーです。
この研究が重要な理由
本論文は、「どのエージェントが最高スコアを出すか」から「ループのどこに能力が実際に存在するか」へと議論を転換させており、その答えは居心地の悪いものです。現在のフロンティアエージェントは、既知の技術を組み合わせるエンジニアリングオプティマイザであり、検証済みの新規性を生み出すよりも評価の抜け穴を約5\times頻繁に利用し、ハーネスの選択には主として分散削減の面で依存しています。これは、将来の自動研究システムがリーダーボードの平均ではなく取り組むべき、具体的なプロセスレベルのスコアカードを提供します。
Source: https://arxiv.org/abs/2608.13417
Intern-S2-Mobius: 知識と推論を分離した基盤モデル
問題設定
標準的なTransformerブロックでは、FFNは一般にキー・バリュー型の知識ストレージとして、self-attentionは組み合わせ推論の演算子として解釈されます。この二つは層ごとに結合されており、層 \ell のattentionは層 \ell のFFNにしかクエリできず、残差接続は厳密に前向き方向のみです。これには二つの帰結があります。第一に、同じ知識が層をまたいで冗長に再構築される傾向があり、パラメータと学習トークンを浪費します。第二に、深い層が浅いFFNで活性化されていなかった事実を必要とする場合、唯一の手段はトークンを出力してforward passに再突入することです。これが本質的に、chain-of-thoughtがアーキテクチャ的に必要である理由であり、推論トレースが冗長になる理由です。Mobius-v0はFFNプールとattentionスタックを分離することで、この両方の問題に取り組みます。
手法
Mobiusは層ごとのFFNを、複数の層ごとのReasoner(self-attentionモジュール)からクエリされる、単一のグローバル共有Memory(大規模FFN / MoE知識バンク)に置き換えます。隠れ状態はキャッシュとキャリアの両方として機能します。Reasonerは共有Memoryに繰り返しクエリを発行し、取得された知識ベクトルはattention演算子に戻されます。すべてのReasonerがすべての知識スロットにアクセスできるため、論文が「Backward Residual Connection」と呼ぶ深層から浅層へ向かう情報フローの方向が、CoTトークンによるシミュレーションではなく、ネイティブに実現されます。論文はもう一つの帰結として潜在的反復(latent iteration)を挙げています。単一のトークンがMemory全体に対して複数のReasonerパスを繰り返すことができるため、モデルは中間トークンをデコードすることなく、Dynamic Latent Reasoningを実行します。
具体的に、公開されているインスタンスは以下の通りです:
- Mobius-7B(総パラメータ数7B、活性化パラメータ数約1B、MoE):1TBトークンでスクラッチから学習。
- Intern-S2-Mobius-35B:Qwen3.5-35B-A3Bからのアーキテクチャ変換後、1TBトークンによる継続事前学習、その後SFT + RL。
共有Memoryは大規模かつ活性化時はスパースであるため、forward passあたりのFLOP使用率は低下し、メモリ帯域幅への負荷が増大します。主張としては、潜在的推論がトークンレベルのCoTに取って代わることで必要なforward pass数が大幅に減少し、その恩恵がこのコストを十分に上回るというものです。

Figure 6の活性化マップは機械的な直感を与えてくれます。スクラッチ学習したMobius-7B(左)では、expert選択が層のインデックス全体に拡散しており、同じexpertが多くの深さで活性化されています。これは、各層が独自のコピーを持つのではなく、共通の知識プールへのアクセスを共有するという意図された解釈と一致しています。CPT済みの35B(右)では、パターンはより帯状になっており、Transformerチェックポイントからの変換がソースモデルの層ごとの特化を一部引き継いでいることを反映しています。
結果
二つの主要な数値を示します:
スクラッチ学習時のデータ効率。マッチしたパラメータ数と学習レシピの7B-A1B MoEにおいて、Mobiusは1TBトークンでTransformerのMMLUスコアに到達する際、必要なデータ量がわずか 0.626\times、すなわち 1.6\times のデータ効率を達成します。中間チェックポイント全体でMobiusはTransformerのMMLU曲線を上回っています。
推論スループット。Intern-S2-Mobius-35B(Qwen3.5-35B-A3BからのCPT)は同じパラメータ予算のもとでTransformerベースラインと同等の下流スコアを維持しながら、エンドツーエンドの推論速度を約 4\times 向上させます。論文はこのスピードアップを二つの複合効果に帰しています。forward passあたりより柔軟な活性化パスと、潜在的推論がCoTの役割の一部を担うことによる回答あたりの出力トークン数の削減です。

Figure 7は、Physics-of-LLMスタイルの組み合わせ汎化プローブ(学習:500件の単一ホップ + 400件の二ホップ;テスト:100件の二ホップホールドアウト)の結果を示しています。将来バージョンのMobiusは、Transformerベースラインより速く収束し、より高い最終スコアに達します。これはbackward residual引数から予測される挙動です。二ホップの組み合わせには、深いReasonerが浅く格納された事実を取得する必要があり、これはまさに層ごとに束縛されたFFNがCoTなしにはサポートできない方向です。

Figure 8は、マルチトークン予測カラム t+1,\dots,t+5 を用いたlogit-lensの変種を使用しています。同一のteacher-forcedコンテキストのもとで、Mobiusはより浅い層で、かつより広いMTPホライズンにわたって正しい未来トークンにコミットしているように見えます。これは、共有Memoryに対する潜在的反復が予測情報をより少ないforward passに集約するという主張と一致しています。
制限と未解決の問題
この報告は厳密なベンチマーク研究というよりも技術的ポジションペーパーです。いくつかの点が確立されていません:
- 7B TFSの評価は本質的にMMLUのみです。強力なオープンベースラインに対するスケールでの推論重視ベンチマーク(数学、コード、長文コンテキスト、エージェントタスク)は示されていません。
- 4\times の推論スピードアップはエンドツーエンドで引用されており、削減された活性化コストと実効出力長の短縮の両方に依存しています。その分解(トークン/秒 vs. トークン/回答)は示されておらず、スパースなMemoryアクセスパターンはハードウェアに依存します。
- 共有Memoryをスケール時にデバイス間でどのようにシャーディングするか、また学習スループットがどのように比較されるかについての説明がありません。
- 自己進化型・継続学習の主張は将来の展望にとどまっており、忘却に関するベンチマークは示されていません。
- 「Backward residual」は共有ストレージを介して間接的にのみ実現されています。明示的な双方向残差がさらに有効かどうかは未検証です。
- 組み合わせ汎化の結果には「未公開の将来バージョンのMobius」が使用されており、公開済みのv0ではありません。
なぜ重要か
1.6\times のデータ効率と 4\times の推論スピードアップが同等の品質で標準的な推論ベンチマークの精査に耐えれば、FFN知識をattention推論から分離することは、スケーリングや線形attentionの効率化研究とは異なる、意味のあるアーキテクチャ的な軸となります。知識と推論の分離は、継続学習にとっても適切な構造的事前知識です。Reasonerを再学習することなくMemoryを拡張できるため、Transformerがクリーンにはサポートできない特性を持ちます。
Source: https://arxiv.org/abs/2608.14290
Hacker News Signals
Claude: System Prompts
Anthropicは、Claudeのsystem promptの動作に関するリリースノートを公開しました。このドキュメントでは、system promptがClaudioのデフォルト動作、オペレーター制御、およびユーザーレベルの権限とどのように相互作用するかを説明しています。ドキュメントは階層的な信頼構造を明確化しています:Anthropicのトレーニングがハードリミットを確立し、オペレーターはsystem promptを通じてそのリミット内でカスタマイズを行い、ユーザーはオペレーターが許可する範囲内で操作します。
具体的な仕組みとして、リリースノートにはオペレーターが無効にできるデフォルト動作(例:医療プラットフォームにおける自殺・自傷に関するセーフメッセージングガイドライン、研究用途における安全に関する注意書き)と、オペレーターが有効化できる非デフォルト動作(例:アダルトプラットフォームでの露骨なコンテンツ、ハームリダクションサービスにおける薬物の詳細情報)が詳述されています。また、オペレーターの制限がない場合にユーザーが調整できる動作のセット——応答言語や特定の免責事項の追加など——も文書化されています。
エンジニアリングの観点で特に重要なのは、prompt injectionと競合解決のセマンティクスです。Claudeはオペレーターのsystem promptを比較的信頼できる雇用主からの指示として扱うよう指示されていますが、(単にhelpfulnessを制限するのではなく)ユーザーを積極的に害する指示には従わないとされています。また、機密保持を指示された場合はsystem promptの内容を開示しないものの、尋ねられた場合はsystem promptが存在することは認めるべきとも明文化されています——これはAPIの上に構築するアプリケーション開発者にとって重要な区別です。
リリースノートはマルチエージェントのコンテキストについても言及しています:Claudeがオーケストレーターから呼び出されるサブエージェントとして動作する場合、同じ信頼ルールを適用し、オーケストレーターのアイデンティティの主張にかかわらず、自身の原則に違反するリクエストは拒否すべきとされています。これは、オーケストレーター自体が侵害されていないことを検証する手段がないためです。これはagentic pipelineにおけるprompt injection攻撃の対象面を直接認めたものです。
開発者にとっての実用的な意義として、このドキュメントはオペレーター・ユーザー間の権限境界に関する明示的なガイダンスをついに提供しています。以前はこの境界が複数のブログ記事から推測するしかありませんでした。HNのコメントでは、ソフトコードとハードコードの区別が実際に意味をなすのか、またモデルの実際の動作がドキュメントと一致しているかどうかに焦点が当たっています。
Source: https://platform.claude.com/docs/en/release-notes/system-prompts
Qwen 3.8 27B は優秀だが、デフォルトで過剰思考する
Simon WillisonによるQwen3-8Bの評価(注:モデルの名称「Qwen 3.8 27B」はQwen3とQwQの命名を混同しているようで、27BはQwQ-32B相当の領域を指しているが、この記事は8BのHybrid-thinkingモデルに焦点を当てている)は、具体的な挙動上の問題を中心に展開しています。すなわち、このモデルは極めて単純なクエリに対しても拡張された chain-of-thought 推論をデフォルトで実行してしまい、不必要なトークン消費とレイテンシを生じさせるという問題です。
ここでの技術的な核心は、Qwen3が導入したhybrid thinking modeです。常に推論が有効なモデル(DeepSeek-R1)や推論を一切行わないモデルとは異なり、Qwen3モデルはchat templateタグによる /think および /no_think のトグルをサポートしています。デフォルト設定では、8Bモデルは実質的にすべてのクエリに対してthinkingを有効にしており、「2+2は何ですか」という問いに答える前でも長い <think>...</think> のスクラッチパッドブロックを生成してしまいます。
Willisonの対処法はシンプルです。generation configに enable_thinking=False を渡すか、生のinference endpointを使用する際にプロンプトへ <think></think> という no-think トークンを手動で挿入するかのどちらかです。この記事には、before/afterのトークン数の差を示す具体的なAPI呼び出しの例が含まれており、その差は相当なものです。一文で答えられるべきクエリに対して、数百トークンものオーバーヘッドが生じています。
この問題が浮き彫りにするより深い課題は、推論能力のための RLHF/RLAIF tuning がキャリブレーション問題を引き起こすという点です。モデルはthinkingが困難な問題においてより良い結果をもたらすことを学習し、その挙動を無差別に汎化してしまいます。推論がコストに見合うかどうかをモデルが正しく予測できるようにすることは、単に推論を教えるよりもはるかに難しいmeta-learningの問題です。
デプロイにおける実践的な示唆として、モデルのデフォルト設定に頼るのではなく、タスクの種類に応じて常にthinking modeを明示的に設定することが重要です。このhybridアーキテクチャは本質的に有用です。同一のモデルweightsから、単純なtool callには高速なレスポンスを、複雑なプランニングには低速で熟慮されたレスポンスを得られることは大きな価値があります。ただし、それを効率的に活用するには明示的なオーケストレーションが必要です。
Source: https://simonwillison.net/2026/Aug/16/qwen-38-27b/
Kubernetes on Oxide: 顧客ニーズがいかに私たちのインテグレーションを形作ったか
Oxide Computerは、投機的な機能開発ではなく、具体的な顧客要件に基づいて、ラックスケールシステムにKubernetesインテグレーションを構築した経緯をドキュメント化しています。この投稿は、完全に制御するハードウェア上でKubernetesをネイティブに動作させるコストと、ソフトウェア定義の抽象化を重ねたコモディティインフラ上で動かす場合との比較について、有益なケーススタディとなっています。
主要なインテグレーションポイントは次の通りです:MetalLBや類似のソリューションを必要とせず、Oxideのネットワーキングプレーンを通じてLoadBalancerサービスが実際のIPアドレスをプロビジョニングできるよう、CCM(Cloud Controller Manager)バックエンドとしてのOxide Cloud API;Oxideのブロックストレージ(分散ストレージシステムであるCrucible)を基盤とするCSIドライバーで、PersistentVolumeが関連する耐久性およびスナップショットのセマンティクスを持つ実際のCrucibleボリュームにマッピングされるもの;そして宣言的なクラスターライフサイクル管理のためのCluster API(CAPI)プロバイダーです。
興味深いエンジニアリングの詳細はCCMにあります。Oxideのネットワーキングモデルはクラウドプロバイダーと根本的に異なります:NATレイヤーのない単一階層のBGPベースファブリックを使用しているため、LoadBalancer IPの割り当ては、汎用ハードウェア上のMetalLBが必要とする回避策なしにクリーンに実行できます。CCMはOxideのVPCネットワーキングと直接インテグレーションされており、外部IPはすべてのeast-westトラフィックを処理するのと同じファブリック上でアナウンスされます。独立したL2アナウンスプレーンは不要です。
CAPIプロバイダーが注目に値するのは、OxideのAPIが真のマシン抽象化を提供しているためです(Oxide Instanceは決定論的な配置セマンティクスを持つハードウェアバックのVMです)。これはCAPIのMachineDeploymentモデルとうまくマッピングされます。インテグレーションはまだ成熟途上であることが率直に述べられており、autoscalerとのインテグレーションはまだなく、CSIドライバーには特定のボリュームトポロジーヒントが欠けています。
プロダクト開発に関するメタな要点:Oxideは、投機的なcloud-native互換性を演出するために機能を構築するのではなく、有料顧客がインテグレーションの優先度を決めるまで明示的に待ちました。その結果、機能は少なくなりましたが、実装されている箇所では深いインテグレーションが実現されています。
Source: https://oxide.computer/blog/kubernetes-on-oxide
AIは数学者を思考力で上回っているのではなく、記憶力で上回っている
Davide Pifferは、数学的ベンチマーク(IMOの問題、FrontierMathなど)における最近のAIのパフォーマンスは、新規な推論ではなく、記憶された学習分布からの検索とパターンマッチングを反映しており、これらの結果を「超人的な数学的推論」と位置づけるのはカテゴリーエラーであると主張しています。
技術的な論拠はいくつかの層に分かれています。第一に、汚染の問題です。オリンピックのアーカイブからの問題は、最近のものであっても、訓練コーパスに取り込まれるウェブテキストを通じて急速に拡散します。訓練中に数千ものAMC/AIME/IMOの解答を見てきたモデルは、最初から証明を構築することなく、問題の構造にパターンマッチングできます。第二に、ベンチマーク構築の問題です。真に新規な数学的問題を生成するには、継続的な生成(検証が困難)か閉じたコミュニティからの問題のいずれかが必要であり、どちらも標準化は容易ではありません。
より本質的な点として、Pifferは補間(学習例の凸包の中で答えを見つけること、これはLLMが得意とするもの)と外挿(数学の真に新しい領域において証明を構築すること)を区別しています。数学者の実際の価値は後者、すなわち予想を立て、適切な抽象化を識別し、遠く離れた分野を結びつけることにあり、現在のベンチマークはこれを検証していないと指摘しています。
この投稿でそれほど注目されていない反論として次のようなものがあります。たとえパフォーマンスが「単なる」洗練された検索とパターンマッチングであったとしても、その検索は非常に大規模かつ整理された暗黙の知識ベースにわたって行われており、それとchain-of-thoughtによる統合の組み合わせは、新規な研究でなかったとしても、実際に数学者が作業する上で有用な出力を生み出しています。記憶と推論の区別は、この枠組みが示唆するほど明確ではないかもしれません。人間の数学的直観もまた、内在化されたパターン認識によって大きく形成されているからです。
HNのディスカッションでは、より困難な問いが浮上しています。それは、真に新規な推論と非常に洗練された補間を区別する経験的なテストとは何かというものです。この問いは依然として未解決のままです。
Source: https://davidepiffer.com/p/ai-isnt-outthinking-mathematicians
ゴーイング・ダークと法執行機関によるハッキングの時代
Matthew Greenの投稿は、「ゴーイング・ダーク」問題——エンドツーエンド暗号化が適法な通信へのアクセスを妨げているという法執行機関の主張——を技術的な観点から分析したものです。そして、暗号化政策をめぐる議論から、デバイスへのハッキングが事実上の法執行戦略となった時代へと、私たちがいつの間にか移行してしまったと論じています。
技術的な核心:E2EEの広範な普及(Signal、Advanced Data Protection付きiMessage、WhatsApp)により、キャリアやプラットフォームレベルでのトラフィック傍受からはもはや平文が得られなくなりました。法執行機関の対応は、バックドアの義務化(EARN ITや類似の提案は強力な形では成立していません)に成功することではなく、商用スパイウェア(Pegasus、Predator、および国内の同等品)や裁判所の許可を得たデバイス侵害を利用して同じ情報収集目的を達成することへと向かっています。
Greenが懸念するのは構造的な問題です。デバイスへのハッキングは盗聴に比べて規制が緩く、脆弱性を突く必要があるため(これが政府にゼロデイ脆弱性を開示するのではなく備蓄するインセンティブを与え、防御的セキュリティとの緊張関係を生み出します)、CALEA時代の盗聴令状と比べて監視メカニズムが不十分であり、スケールしにくいという問題があります——エクスプロイトは使い捨てですが、盗聴タップは継続して機能し続けます。その結果、より侵襲的(通信メタデータではなくデバイスへの完全アクセス)でありながら、司法的な標準化が不十分な監視体制が生まれています。
暗号化政策の観点から:Greenは、「ゴーイング・ダーク」というフレーミング自体が常に多少誤解を招くものだったと主張します。なぜなら、メタデータの収集(誰がいつ誰と話したか、位置情報など)は暗号化されておらず、今も広範に収集されているからです。実際に暗くなったのはコンテンツであり、デバイス侵害への法執行機関の適応は、暗号プロトコルを破ることなくその問題を回避する道を見つけたことを示唆しています。
セキュリティエンジニアへの未解決の問い:デバイスレベルの侵害へのシフトは、今や重要な防御の対象面がプロトコル設計ではなくエンドポイントセキュリティであることを意味しています。
Source: https://blog.cryptographyengineering.com/2026/08/14/everything-is-about-to-go-dark/
PgBouncerなしでPostgresを運用している人はいるのか?
Brandur Leachの投稿では、Postgresの接続処理の改善やPgBouncerが導入する運用上のオーバーヘッドを考慮した上で、PgBouncerが依然としてProduction環境のPostgresデプロイメントに必須のコンポーネントであるかどうかを検証しています。その答えはニュアンスを含んでおり、ワークロードの特性に大きく依存します。
技術的な背景として、Postgresは接続ごとに1つのOSプロセスを使用します。接続数が多くなると(数百から数千程度)、メモリプレッシャー(各バックエンドが共有メモリ構造を確保する)とコンテキストスイッチのオーバーヘッドが発生します。PgBouncerはtransaction poolingモードにおいて、多数のアプリケーション接続を少数の実際のPostgresバックエンドに多重化し、バックエンド数を管理可能な範囲に抑えます。その代償として、transaction poolingはセッションレベルの状態を破壊します。すなわち、SET LOCAL、prepared statement、advisory lock、一時テーブルは、トランザクション間で基盤となるバックエンドが変わった場合に引き継がれません。
Leachの主張は、状況が変化しているというものです。アプリケーションフレームワークのモダンなconnection pool実装(HikariCP、pg-pool、SQLAlchemy pool)は、多重化の大部分をプロセス内で処理します。Postgres 14以降では接続のスケーラビリティが改善されました。中程度の並行処理(数十の接続)を行うアプリケーションにとっては、PgBouncerの追加的な運用上の複雑さ——監視が必要な別プロセス、チューニングが必要な設定、セッションセマンティクスの微妙な破壊——は割に合わない場合があります。
PgBouncerが明確に必要とされるケース:多数のアプリケーションインスタンスからの非常に高い接続数を持つアプリケーション(サーバーレス関数、大規模なマイクロサービスデプロイメント)、または自分たちでは制御できない接続制限と共存する必要があるアプリケーション(プランごとに制限のあるマネージドPostgres)です。HNのコメントでは、SupabaseやほかのマネージドプロバイダーがデフォルトでPgBouncerを実行しているのは、テナントごとの接続動作を制御できないためだという指摘が追加されています。
実践的なガイダンスとして、PgBouncerを追加する前に実際のバックエンド接続数をプロファイリングすることが推奨されています。数年前にPgBouncerを設定した多くのアプリケーションは、現在のPostgresの性能とアプリケーション側のpoolingを考えると、もはやそれを必要としないかもしれません。
Source: https://brandur.org/fragments/postgres-without-pgbouncer
入門微積分の簡略化と再構成(2018年)
2018年のこのarXiv論文は、Norman Wildbergerらによって書かれたもので、標準的な1年次の微積分カリキュラムを「有理三角法(rational trigonometry)」と呼ばれるものを中心に再編成し、入門段階では極限を用いない定式化を採用することを提案しています。代わりに、極限の概念を導入する前に、微分を代数的な恒等式と有限差分演算子に基礎付けるというアプローチを取っています。
技術的な提案の核心は、標準的な \epsilon-\delta あるいは直観的極限による導関数の定式化を、まず代数的な処理に置き換えることにあります。具体的には、多項式 p(x) の「代数的導関数(algebraic derivative)」を、p(x+h) - p(x) の展開における h の係数として定義してから一般化するというものです。これは本質的に、代数学における差商(divided difference)あるいは形式的導関数のアプローチであり、解析学を用いずに厳密に定義できます。
このような順序付けの根拠として、次のことが挙げられています。学生は \lim_{h\to 0} \frac{(x+h)^n - x^n}{h} = nx^{n-1} がなぜ成り立つかを理解するための解析的な基盤を持つ前に、微分の計算規則(べき乗則、積の法則、連鎖律)を学びます。これにより、学生ができることと理解していることの間にミスマッチが生じます。代数的アプローチは、多項式の場合に規則の厳密な正当化を与え、極限の完全な機構は後続の講義に先送りします。
また、この論文では、射影的かつ有理的な三角恒等式を活用することで、三角関数の導関数の導入を簡略化することも提案しています。これにより、\lim_{\theta \to 0} \frac{\sin\theta}{\theta} = 1 に対する幾何学的極限論法——それ自体が独自の前提知識を必要とする——を回避できます。
HNのディスカッションでは、採用に対して懐疑的な意見が多く見られます。カリキュラムの慣性は大きく、代数的アプローチは多項式に対しては厳密である一方、超越関数への拡張にはかなりの追加作業が必要です。多項式における概念的明確さが、最終的な整合コストを上回るかどうかについては議論が分かれています。
Source: https://arxiv.org/abs/1811.03459
「RISC-V:もっとうまくやれたはずだ」への第三世界エンジニアからの反論
この投稿は、RISC-VのISA設計上の選択(拡張間で標準化されたABIの欠如、拡張ネゴシエーションモデルの複雑さ、エコシステムの断片化)を理由にRISC-Vを本格的なシステム開発に不向きとする以前の批判への直接的な反論です。著者はリソースが制約された国家的文脈における組み込みエンジニアの立場から書いており、その技術的な内容はフレーミングから示唆される以上に充実しています。
核心的なエンジニアリング上の主張は次の通りです:RISC-Vの拡張モデルは、ハードウェアが制約された組み込み用途においてバグではなく機能であるという点です。マイクロコントローラのベンダーはRV32IMC(基本整数命令+乗算+圧縮命令)のみを実装し、コードを正しく実行できる最小限のダイ面積のコアを製造できます。ARMの相当品(Cortex-Mシリーズ)はARMからライセンスを取得し、不要な可能性のある機能を組み込む必要があります。「断片化」の問題は汎用OSのデプロイにとっては深刻ですが、フルスタックを自分で制御するベアメタル組み込みファームウェアにとってはほぼ無関係です。
ABI(Application Binary Interface)の懸念について具体的に言えば:組み込みターゲットでは、ファームウェアは既知のハードウェアターゲットに対してソースからコンパイルされるため、ABIポータビリティの要件は実質的に存在しないと著者は主張しています。問題を引き起こすABIの断片化はLinuxユーザースペース・glibcの問題であり、擁護されている用途とは異なるユースケースです。
地政学的な側面も技術的に関連性があります:ARMライセンス(およびより広くチップ設計)に対する輸出規制は、組み込みシステムを構築する非米国・EU諸国に対して真の supply chain リスクをもたらします。RISC-VのオープンなISAにより、ある国が外国の主体とのライセンス交渉なしにRISC-Vコアを設計・テープアウト・製造できます。これは抽象的な懸念ではなく、特定の市場においてどのようなシリコンがどのコストで入手可能かを直接的に左右します。
この反論は組み込みのケースについては最も説得力があり、汎用コンピューティングのケースについては最も説得力に欠けます。後者においては、エコシステムの成熟度に関する元の批判の指摘がより鋭く刺さります。
注目の新しいリポジトリ
QwenAudio/qwen-audio-agent
LLMベースのエージェントが長時間実行タスク中もレスポンシブな状態を維持するために設計された、リアルタイム音声ランタイムです。このランタイムが解決するコアな問題は「無音問題(dead-air problem)」です。エージェントがツール呼び出しを実行中だったり非同期処理を待機中だったりすると、音声チャンネルが無音になり、インタラクションの質が低下します。このランタイムは並列音声ループを維持し、エージェントの実際の計算処理が進行中の間、フィラーとなる相槌や状況のナレーション、あるいは中間的な推論を生成します。Qwen-Audioモデルファミリーの上に構築されており、ストリーミングWebSocketインターフェースを公開し、ターンテイキング、割り込み検出(barge-in detection)、音声バッファリングを内部で処理します。アーキテクチャは音声I/Oスレッドとエージェント実行スレッドを分離しており、互いにブロッキングすることなく並行実行が可能です。電話ボット、音声アシスタント、あるいはレイテンシの実体と同様にレイテンシの知覚が重要となるマルチモーダルエージェントを構築する方に関連します。このランタイムはPythonベースで、カスタムTTS/STTバックエンド用のフックを備えており、エージェントのロジックに手を加えることなくWhisperやクラウドASRに切り替えることができます。
Source: https://github.com/QwenAudio/qwen-audio-agent
TryCaspian/caspian-sdk
AIエージェント向けの統合コミュニケーション抽象化レイヤーであり、メール、WhatsApp、Slack、Discord、Telegram、SMSにわたって単一のAPIサーフェスを提供します。このSDKはPythonとTypeScriptの両方で利用可能で、各チャンネルをメッセージパッシングインターフェースとして扱い、一貫したエンベロープスキーマ(送信者、受信者、スレッドID、ペイロード、チャンネルメタデータ)を採用しています。技術的な価値は正規化にあります。エージェントは、チャンネルごとのアダプターコードを必要とせず、送信メッセージのルーティングや受信トリガーの処理が可能になります。内部的には、プロバイダーごとにOAuthフロー、Webhookの登録、レート制限の管理を担っています。human-in-the-loopのステップがコンシューマー向けメッセージングアプリ上で行われるマルチエージェントシステムにおいて、大量のグルーコードを排除できます。オープンソースリリースはコアプロトコルといくつかのチャンネルアダプターをカバーしており、エンタープライズ向けコネクターは別途提供されているようです。専用のダッシュボードを必要とせず、ユーザーがすでに監視しているチャンネルを通じて結果を提示したり承認を要求したりする必要があるエージェントワークフローに有用です。
Source: https://github.com/TryCaspian/caspian-sdk
antinomie-lab/pi-book
ソフトウェアエージェントをゼロから構築する際の設計上の意思決定を、Markdown/LaTeXで記述したアーキテクチャノートブックです。フレームワークではなく、いわば「生きたドキュメント」であり、設計メモが参照実装とともにバージョン管理されるという意味で「ソース裏付き」の形式を採っています。扱うトピックには、メモリアーキテクチャ(エピソード記憶 vs. 意味記憶ストア)、planning loopのバリアント(ReAct、LATS、tree-search)、tool-useスキーマ、および評価手法などが含まれます。「ソース裏付き」という構成上の方針により、各アーキテクチャ上の主張には論文引用か、概念を示す最小限のコードスニペットのいずれかが紐付けられています。生の論文リストではなく、厳選・整理された統合的な知見を求める研究者やエンジニアにとって、体系的なリファレンスとして有用です。本ドキュメントはwikiではなく書籍として構成されているため、意図的な読み進め順序が設けられています。公開直後に347スターを獲得しており、エージェントシステムをゼロから立ち上げようとする人々の学習リソースとして注目を集めています。
Source: https://github.com/antinomie-lab/pi-book
Shpigford/nurb
3Dプリンティングワークフローを対象としたagentic CADツールです。従来のパラメトリックCAD GUIとは異なり、nurbはユーザーがテキストでジオメトリ・制約・変更内容を記述できる自然言語インターフェースを提供し、システムはその内容に基づいて3Dモデルを生成または変形します。名称はほとんどのサーフェス表現の数学的基盤であるNURBS(Non-Uniform Rational B-Splines)への参照です。内部ではLLMを使用して意図をジオメトリ操作に変換し、OpenSCADまたはスライサーパイプラインと互換性のある直接メッシュ表現を出力していると思われます。agenticという枠組みにより、反復的な改良がファーストクラスの機能として位置づけられています。つまり、システムは設計バリアントを提案し、プリンタブル性の制約(壁厚、オーバーハング角度)を確認し、ジオメトリが指定された基準を満たすまでループを繰り返すことができます。これはユーザーがCADソフトウェアを知らなくても、設計意図と製造制約の間のループを閉じようとする試みであり、技術的に興味深いアプローチです。初期段階ではありますが、このアプローチは機能的なパーツ設計の民主化に向けた有望な方向性です。
Source: https://github.com/Shpigford/nurb
makecindy/cindy
汎用目的のオープンソースAI agentであり、設定の手間がかかるセットアップなしにインストール直後から動作する自己完結型のタスク実行エンジンとして位置づけられています。「オープンソースかつすぐに使える」というコンセプトは、モデルバックエンド(おそらくOpenAI互換API)、ツール統合、タスク計画ループについて適切なデフォルト設定が同梱されており、ユーザーが手動でコンポーネントを組み合わせる必要がないことを示唆しています。アーキテクチャはReActスタイルのループにツールのディスパッチと結果の統合を備えた構成となっているようです。2,100以上のstarを獲得し急速に普及していることから、LangChainやAutoGenのセットアップをゼロから構築するよりも使い勝手が大幅に優れていることが伺えます。README が英語と簡体字中国語のバイリンガル対応であることは、このプロジェクトが欧米と中国の開発者コミュニティの双方をターゲットにしていることを示しています。タスク計画、メモリ、ツール呼び出しのインフラを自前で構築するのではなく、拡張可能な動作済みのagentの骨格を求めるチームにとって、出発点として有用です。
Source: https://github.com/makecindy/cindy
Tiger3807861189/J-Space-Cognition-Suite-V3.6
Anthropicの内部「J-space」グローバルワークスペース研究——transformer システムにおける attention および認知統合の理論的モデル——を枠組みとして構成した、prompting およびスキャフォールディング技術のコレクションです。本スイートは、Claude および類似モデルにおける推論の一貫性、ワーキングメモリの活用、タスク分解の改善を目的とした、構造化された prompt テンプレートと chain-of-thought スキャフォールドを提供します。認知神経科学から借用したグローバルワークスペース理論は、専門化されたモジュールが情報を交換するための共有ブロードキャスト媒体を仮定するものであり、ここで提供される prompt は、モデルが共有状態表現を明示的に維持・更新することを促す形でコンテキストを構造化することにより、そのメタファーを実装化しようと試みています。実用的な成果物は、複雑な多段階推論タスク向けの再利用可能な命令パターンのセットです。理論的な根拠は推測の域を出ず——promptがAnthropicの実際の内部研究とどの程度厳密に結びついているかは不明です——しかし、そのエンジニアリングパターンは構造化推論ワークフローに対して独立した有用性を持つ可能性があります。
Source: https://github.com/Tiger3807861189/J-Space-Cognition-Suite-V3.6
Pinvou/pinvou-agent
チャット形式のインタラクションではなく、ローカル実行と具体的な成果物に重点を置いたオープンソースのデスクトップAIエージェントです。本システムは、ツール使用(シェルコマンド、ファイルI/O、Web検索)、ローカルドキュメントの embeddings をバックエンドとするナレッジベース、そして多段階タスク自動化のためのワークフローエンジンを統合しており、これらすべてがユーザーのマシン上で動作します。デスクトップネイティブという立場により、クラウドサービスを経由することなく、ローカルファイルシステム、インストール済みアプリケーション、OSレベルのAPIと直接やり取りできます。「実際の成果物」というフレーミングは、テキストの要約を生成するエージェントとの差別化を意図しており、ファイル・レポート・実行済みスクリプト・入力済みテンプレートといったアーティファクトを生成することを目的としています。ブラウザのタブにサンドボックスされるのではなく、オペレーティングシステムレベルで動作するエージェントを求めるパワーユーザーや開発者向けに構築されています。アーキテクチャ的にはOpenInterpreterに類似していますが、より構造化されたワークフロー層と明示的なナレッジ管理を備えています。
Source: https://github.com/Pinvou/pinvou-agent
aigclink/geolook
GEO(Generative Engine Optimization)のエンドツーエンド実装です。GEOとは、従来の検索ランキングではなく、AI生成回答における可視性のためにコンテンツや技術的インフラを最適化する新興の手法です。このパイプラインは、ステータス分析(現在のGEOパフォーマンスの測定)、診断(コンテンツがLLMに引用される・されない理由の特定)、戦略生成、チケット/タスク作成、変更の実行、および検証という全ライフサイクルをカバーしています。GEOを静的なチェックリストではなく、閉ループ制御問題として扱っている点が技術的に興味深いです。オープンソースとして公開されており、スコアリング手法を含むフルスタックが提供されています。この手法は商用GEOツールでは不透明なままになっています。アンサーエンジン(Perplexity、ChatGPT search、Gemini)が主要な情報発見の場となりつつある世界に適応しようとしているSEOエンジニアやコンテンツインフラチームに関連性があります。診断から検証済みの変更までのエンドツーエンドの自動化により、単発の分析スクリプトとは一線を画しています。