デイリーAIダイジェスト — 2026-08-26

公開

2026年8月26日

English · 日本語

arXiv ハイライト

Meta^n: 創発的な深さによる再帰的自己改善

問題

自己改善型LLMエージェントは一般的に単一のメタレベルで動作します。すなわち、エージェントがタスクへの回答を洗練させるか(STaR、Reflexion)、固定された外部ループが内部ソルバーを編集するか(Gödel Agent、PromptBreeder)のどちらかです。どちらのパラダイムも構造的な天井に達します。回答精錬型のアプローチは回答を生成するプロセスには一切手を触れません。自己編集型のアプローチは安定性を維持するために自身の編集機構の一部を修正対象から除外しなければならず、著者らはこれによって実現可能なメタ深度がおよそ2程度に制限されると主張しています。未解決の問いは次の通りです:安定性と表現力のトレードオフを生じさせることなく、エージェントはメタ階層において任意に深く再帰できるのでしょうか?

手法

Meta^nは単一のメタ操作 \Omega を固定したまま、\Omega 自体ではなくその入力に対して再帰を行います。トレース T_k を生成するソルバースタック S_k およびその生成コード C_k が与えられたとき、層 k+1 は次のように構築されます。

(C_{k+1}, S_{k+1}) = \Omega(C_k, T_k, \text{task set}),

ここで \Omega は2つの成果物を出力します:(i)ソルバーがタスクを受け取る前に戦略的なコンテキストを各タスクに注入するPythonの前処理、および(ii)ソルバーが呼び出し可能なヘルパーライブラリです。\Omega 自体は書き換えられないため、システムを不安定化させることはありません。また、C_{k+1} の入力には C_kC_k が生成したトレースが厳密に含まれるため、各層は前の層よりも厳密に多くの情報に基づいて推論を行います。これが「視点(vantage)」が単調に増大するという意味です。

図1:Meta^n の概要。

深さは事前に設定されません。ホールドアウトされたスライスにおける性能向上が停止した時点でスタックが停止します(忍耐ベースの収束)。ある悪い層への貪欲なコミットを避けるため、サイズ B の進化的アーカイブが複数の層チェーンを保持します。各ステップで、\Omega を適用してアーカイブから K 個の候補拡張が生成され、評価された後に上位 B 個が保持されます。BK、忍耐、最大反復回数はベンチマークごとに調整されます(付録C、表5)。

2つの変種は同一の \Omega テンプレートを共有します:single-shot(タスクごとに1回のLLM呼び出しで、ツール使用なしで \Omega の貢献を分離)と agentic(観察-行動ループ、タスクごとに最大8ターン)です。ソルバーは3種類の基盤にわたります。PythonソースコードとDocker内でのbash、および凍結されたダウンストリームモデルに対するprompt書き換えであり、同じ \Omega が出力モダリティを越えて汎化する必要があります。

図1の右側パネルはLawBenchの軌跡を示しており、Meta^n の両変種はGödel Agentよりも速く上昇し、より高いプラトーに達しています。これは再帰が単なる計算量の増加ではなく、有用な深さを付加するという主張と一致しています。

結果

評価にはGemma 4 31B-ITとGPT-5.2を使用し、8つのファミリーにわたって実施されました:CO-Bench(36のNP困難問題)、AlphaEvolve Math、Symbolic Regression(4ドメイン)、AlgoTune(8タスク)、ARC-AGI-2(120タスク)、TerminalBench 2.0(89タスク、13カテゴリー)、Symptom2Disease、LawBench罪状予測。数値はシード42/43/44での平均 \pm 標準偏差であり、TB2(カテゴリーにわたる標準偏差;GPT-5.2での単一シード)およびホールドアウト分割を持たないベンチマーク(AlphaEvolve Math、AlgoTune、SR)はベンチマークスコアを直接報告します。

Meta^n は両バックボーン下で8つのベンチマークファミリーすべてにおいて先行する自己改善型エージェントを上回ります。最も注目すべき事例はARC-AGI-2であり、これはスキルの記憶化に対抗するよう明示的に設計されています:比較において、ゼロを超えるスコアを達成した唯一のシステムがMeta^n です。LawBench(図1右)では、両変種が探索予算内でGödel Agentの漸近線を超えています。

著者らのアブレーションによれば、再帰による利得の大部分は蓄積されたコードライブラリによるものではなく、各層が次の層に渡す条件付けによるものであることが示されています。すなわち、層 k+1 が個々の出力が誤っているかどうかだけでなく、層 k の戦略が適切であったかどうかを判断できるようにするトレースとコードのコンテキストです。これが積み重ねられたprompt最適化とMeta^n を区別する機械的な主張です:再帰されるのはソルバーではなく診断的なフレームです。

限界と未解決の問い

  • 論文は収束時にスタックが実際にどれだけ深く成長するかを報告しておらず、また層をまたいで生じる役割分化(図1で主張されている)がシードをまたいで安定しているのか、それともLLMの文体的な先入観による人工物なのかも明らかにしていません。
  • \Omega を固定することで安定性を回避できますが、すべての表現力が \Omega のpromptテンプレートに依存することになります。そのテンプレートへの感度は本抄録では定量化されていません。
  • ARC-AGI-2においてゼロを超えるスコアを達成した唯一のシステムというのは印象的ですが、その大きさはここでは示されていません。「ゼロ超え」がわずかなタスクを意味するのか、相当数のカバレッジを意味するのかは重要な問題です。
  • ベンチマークごとに BK、忍耐、最大反復回数を調整する進化的オーケストレーションは、利得がどの程度探索計算量によるものであり、どの程度再帰的構造によるものであるかという通常の問いを提起します。計算量を合わせたフラット探索ベースラインがこれを明確にするでしょう。
  • コストはアーカイブサイズ × 深さ × タスクごとのソルバー呼び出し数でスケールします。完全なコスト計算は付録Cに委ねられています。

なぜ重要か

Meta^n は再帰的自己改善を再定式化します:エージェントが自分自身を編集する(自身のエディターを損傷しないという不動点問題に制限される)のではなく、固定されたメタ演算子が自身の出力の増大するコンテキストにわたって再帰します。ARC-AGI-2の結果が詳細にわたって確認されるならば、それはエージェントレベルの構造が——モデルのスケーリングではなく——記憶化を打ち負かすよう構築されたベンチマーク上で非自明な利得をもたらし得ることを示す、数少ない具体的な実証のひとつとなります。

Source: https://arxiv.org/abs/2608.24735

Annotations as Rollouts: Efficient and Scalable Reinforcement Learning for Video MLLMs

問題設定

Video MLLMに対するGRPOスタイルのRL後学習は、rolloutの品質によってボトルネックが生じます。ベースポリシーが構造化されたビデオタスク(temporal grounding、tracking、マスク認識セグメンテーション)に対して弱い場合、グループ内のほとんどのon-policyサンプルはほぼゼロの報酬を受け取るため、グループ相対的なadvantageが崩壊し、更新シグナルが消滅します。多様性を高めるためにより長いchain-of-thought rolloutを生成することはコストが高く、クエリごとに正例を一つも生成できないことが多いです。著者らは、すでに費用を払って取得した教師あり annotation が、グループに欠けている正確な情報——すなわち高報酬が保証された軌跡——を持っていることに着目しています。問題は、advantage推定器を壊さずに annotationをon-policyグループに注入する方法です。

手法

OraRLはGRPOのclipped surrogate(式4)をそのまま維持し、(i) グループ構成、(ii) advantage推定、(iii) rollout選択のみを変更します。

OraRLフレームワーク

Oracle augmentation。 クエリ q=(v,x) が与えられたとき、報酬 r_i を持つ n 個のon-policy rollout \mathcal{O}_{\text{op}}=\{o_i\}_{i=1}^n \sim \pi_{\theta_{\text{old}}}(\cdot\mid q) をサンプリングします。次に、報酬 r_{\text{gt}}(通常1に近い)を持つ annotation o_{\text{gt}} を追加します。

単純なGRPOが失敗する理由:advantage inversion。 n{+}1 個の報酬に対して単純に \mu_{\text{grp}}\sigma_{\text{grp}} を計算すると、高い r_{\text{gt}} がベースラインを引き上げます。oracle なしのベースラインでは正のadvantageを持っていたrolloutが平均を下回り、負のadvantageを受け取るようになります——このgradientは正しいに近い挙動をペナルティするものになってしまいます。

Advantage inversion rates

Decoupled advantage推定器。 ベースラインはon-policy報酬のみから計算されます: \mu_{\text{op}} = \tfrac{1}{n}\sum_{j=1}^n r_j,\quad \sigma_{\text{op}} = \text{std}(\{r_j\}). oracle なしのadvantageは A_i^{(0)} = (r_i - \mu_{\text{op}})/(\sigma_{\text{op}}+\epsilon) です。oracleはさらに二つの追加シグナルに貢献します:

  • directional gain A_i^{\text{op}}:oracle-policyギャップ g_q(重み w_q)によって正のadvantage rolloutをスケールし、グループの上位に位置するほど上位平均軌跡を強化します。
  • detached oracle advantage A_{\text{gt}}o_{\text{gt}} 自体に付与され、有界なアンカーとして扱われます(ギャップ推定器へのgradient flowなし)。

Sign-balanced pruning。 n{+}1 個のrollout全体でbackpropを行うことは、標準的な n=8 と長いビデオコンテキストを考えると非効率です。OraRLはoracleと \mathcal{O}_{\text{op}} から上位 \kappa n 個の正例および \kappa n 個の負例を保持し、残存するadvantage \widehat{A}_k を再センタリングおよび再スケールします。n=8\kappa=0.5 の場合、グループは9から4つの保持rolloutに縮小され、data-parallelランク間でのシーケンス長バランシングにより逆伝播の計算量が削減されます。論文では、標準的なGRPOの4.9倍に対して2.2倍のSFTステップ時間——半分以下——を報告しています。

システム。 vLLM rolloutとFSDP trainingを用いてveRLで実装されています。ビデオは一度デコードされ、フレームとtemporal metadataがrolloutおよびactorエンジン間で共有されます。報酬は非同期で実行され、更新前のforwardパスからのdetachedされたold-policy log-probsが再利用されるため、second old-policy評価が不要です。

結果

学習には284,779件のSFTプロンプトと100,032件のRLプロンプトが使用されており、7つのタスクファミリー(temporal grounding、spatial grounding、spatial-temporal grounding、tracking、segmentation、VQA、spatial reasoning)にまたがり、Video-ORA-4BとVideo-ORA-9Bが生成されます——各サイズにつき一つのモデルを一つのレシピで学習し、CoTデコーディングなしで評価されます。

Temporal grounding(表1)において、Video-ORA-9BはCharades-、ActivityNet-、QVHighlights-TimeLensでmIoU 61.8 / 63.6 / 72.5を達成し、TimeLens2-8B(58.6 / 58.6 / 70.2)およびGemini-2.5-Pro(52.8 / 58.1 / 70.4)を上回ります。最も厳しい閾値R1@0.7では42.4 / 53.3 / 64.0を報告しており、Gemini-2.5-Proの34.0 / 47.1 / 61.1を上回ります。4Bモデルは8Bベースラインと競争力があります:mIoU 56.8 / 57.3 / 67.5で、Qwen3-VL-8B(48.3 / 46.8 / 59.4)およびInternVideo3-8B(53.2 / 46.3 / 59.2)を上回ります。

Video-ORAファミリーレベルのカバレッジ

統合評価はRefCOCO(R@0.5、cIoU)、STVG(tIoU/sIoU)、GOT-10k AO、MeViS/ReasonVOS J&F、7つのVideoQAベンチマーク、そしてspatial reasoningのためのVSI-Bench/MindCube/MMSI-Benchにまで及びます——図1に示されるように、一つの9Bチェックポイントが7つのファミリー全体にわたって専門化されたベースラインを上回ります。

限界とオープンな課題

  • oracle-policyギャップ g_q とその重み w_q は、oracleがadvantageをどの程度積極的に整形するかを制御するハイパーパラメータとして機能しますが、論文ではその感度を十分に特徴付けておらず、原理的なスケジュールも提示されていません。
  • OraRLは報酬スコアリング可能なannotation(検証可能な構造化ラベル)を前提としています。annotationがノイジーな場合や R(o_{\text{gt}}, q) \not\approx 1 の場合(例:ソフトキャプション)にdecoupled推定器がどう振る舞うかは不明です。
  • Sign-balanced pruningはグループ内に両方の符号が存在することを仮定しています。非常に簡単または非常に難しいクエリでは、一方の符号が空になる可能性があります;フォールバック挙動とそれが有効バッチ構成に与える影響を定量化することは価値があります。
  • Detached A_{\text{gt}} はギャップ項へのgradientをブロックしますが、oracleそれ自体はclipped ratioを通じてoff-policy gradientを受け取ります;\pi_{\theta_{\text{old}}} とは大きく異なる分布からサンプリングされたannotationに対するimportance-ratio clippingの挙動は精査に値します。

なぜ重要か

OraRLは未活用の資産——データセットにすでに含まれているラベル——をGRPO内の正のrolloutとして活用し、advantage inversionを、先行研究がこれをうまく実現できなかった具体的な失敗要因として特定します。decoupled baselineとsign-balanced pruningにより、RL後学習はSFTの5倍のコスト体制から2.2倍のものへと変わり、それでも7つのビデオタスクファミリー全体で一つのgeneralistモデルを改善します。これは、rolloutが支配的なコストであるマルチモーダルモデルにおけるRLのスケーリングに関する実際的な計算を変えるものです。

Source: https://arxiv.org/abs/2608.20492

AutoSaddler: エージェント実行トレースからの耐久性ある更新による自動ハーネス最適化

問題

長期タスクに展開されたLLMエージェントは、ハーネスにラップされています。ハーネスとは、モデルと環境の間に介在する、システムプロンプト・ツールスキーマ・リトライポリシー・メモリ管理・制御フローといったスキャフォールディングのことです。経験的に、ハーネス設計はモデル選択と同程度にエンドタスクの成否を左右しますが、ハーネスの作成は手作業で行われています。エンジニアは失敗トレースを眺め、プロンプトやツールラッパーを編集し、評価を再実行し、反復します。探索空間(自然言語による指示 × ツール設定 × 離散的制御ロジック)は組み合わせ爆発的であり、数値的な gradient は存在しません。AutoSaddlerはこれをオフライン学習問題として捉えます。すなわち、固定のベースエージェントとタスクの学習セットが与えられたとき、汎化する耐久性のあるハーネス更新を生成することを目指します。

手法

ハーネス H_n はパラメータ \theta_n によって定義され、これはテキスト/コードアーティファクトの構造化されたコレクションです。タスクは D_{\mathrm{train}}, D_{\mathrm{dev}}, D_{\mathrm{test}} に分割されます。各イテレーション n では、ミニバッチ B_n \subset D_{\mathrm{train}} を4つのセッションで処理します。

AutoSaddlerの反復的最適化ループの概要

診断–パッチ(Diagnosis–Patch)。 B_n における失敗トレースを分析し、構造化パッチ \Delta\theta_n を生成して H_n' = H_n + \Delta\theta_n を得ます。著者らは、パッチが自由形式の書き換えを行うのではなく、特定のハーネスコンポーネント(プロンプトフラグメント、ツールラッパー、コントローラーブランチ)を対象とすることを強調しており、これがablationにおいて特定された「ターゲットを絞った修正」という要素です。

検証(Verification)。 H_n' を同一の B_n で再実行します。パッチがミニバッチ改善をもたらす条件は次のとおりです。 \widehat{J}_{B_n}(H_n') > \widehat{J}_{B_n}(H_n). テキスト上の「gradient」は(数値的なバックプロパゲーションとは異なり)loss と自動的に整合するわけではないため、検証はループを閉じるための経験的チェックとなります。このテストを通過したパッチのみが D_{\mathrm{dev}} で評価されます。

リフレクション(Reflection)。 受理・棄却にかかわらず、適用前後のトレースを比較し、各タスクを fixedregressedstill-failingstill-passing のいずれかに分類します。学習内容とスカラースコアは EvoDAG に蓄積されます。EvoDAGは、候補ハーネスをノード、診断の根拠をエッジとした有向非巡回グラフです。これにより、一部のタスクを悪化させたパッチというネガティブな結果が、将来の提案に対する制約として保存されます。

進化(Evolution)。 次のハーネス H_{n+1} はEvoDAGの履歴を条件として提案されるため、現在のミニバッチにのみ局所的なものではなく、履歴を考慮した提案となります。ロールアウトバジェット K を使い切った後、\widehat{J}_{D_{\mathrm{dev}}} が最高の候補が選択され、D_{\mathrm{test}} で一度だけ評価されます。

著者らは、診断–パッチ–検証をテキスト gradient 下での backward pass の類似物として位置づけ、EvoDAG + 進化をオプティマイザの状態として位置づけています。ミニバッチ構造は、コストの高いロールアウトベースの評価に適応した、標準的なSGDスタイルのバイアス/分散トレードオフに従っています。

深い診断(Deep debugging)。 繰り返し強調されるのは、診断はモデル自身のリフレクションを言い換えるだけでなく、メカニズムレベルの粒度でトレースを検査しなければならないという点です。

カレンダーキャンセルタスクにおける深い診断と浅い診断の比較

カレンダーのケースでは、浅いリフレクションが表面的な症状に固執するのに対し、AutoSaddlerはツール呼び出しシーケンスを通じて根本原因を追跡します。

ファイル管理タスク:浅い診断は相対パスを問題視するが、AutoSaddlerは未検証の親ディレクトリを特定する。

ファイル管理のケースも、浅い診断の同様の失敗モードを示しています。ツールが実際に観測したファイルシステム状態を検証せず、もっともらしい原因(相対パスの処理)に誤って帰属させています。

結果

異なるベースハーネスを持つ3つのベンチマークにおける結果は以下のとおりです。

  • GAIA2(デフォルトReActエージェント、10 Universe):ベースラインより +9.0 パーセントポイント。
  • SWE-Bench Pro(SWE-agentベース):+9.6 パーセントポイント。
  • Terminal-Bench 2.0(Terminus 2ベース、89タスク):+10.0 パーセントポイント。

3つのベンチマークはスマートフォンアシスタントタスク、エンタープライズSWEリポジトリ、端末/システム管理/ML/セキュリティタスクにわたるため、同一の最適化ループがベンチマーク固有の機構なしに、かなり異なる行動空間にわたって転用できることが示されています。ablationにより、性能向上は3つの要素に起因することが特定されました。(i) 浅いリフレクションに対する深い診断、(ii) 制約なしの編集に対するターゲットを絞った構造化パッチ、(iii) ミニバッチのオーバーフィッティングではなく D_{\mathrm{dev}} を通じた汎化を意識した選択です。

限界と今後の課題

論文はロールアウトバジェット K や最適化の実時間/トークンコストを報告しておらず、これらが実用上のボトルネックとなります。診断–パッチ–検証のセットを一回処理するたびに、B_n 上でエージェントを2回実行する必要があるためです。ミニバッチ検証は局所的な性能退行から保護しますが、D_{\mathrm{train}} とデプロイ環境間の分布シフトには対応できません。D_{\mathrm{test}} における +9〜10 pp の向上は有望ですが、ベンチマークはいまだ学習データとIIDです。EvoDAG構造はオプティマイザの類似物として提示されていますが、探索が行き詰まる条件や進化による提案の多様性については明示的な説明がありません。想定される失敗モードとして、初期に受理されたパッチ周辺の狭い近傍への収束が考えられます。最後に、改善がモデル非依存かどうか(すなわち、モデル A で調整されたハーネスがモデル B にも転用できるか)は、ハーネスの多くが特定のポリシーを対象としたプロンプトテキストであることを考えると、自明な問いです。

なぜ重要か

ハーネスエンジニアリングは現在、業界におけるエージェントの信頼性向上のための主要な手段であり、手作業で行われています。AutoSaddlerは、これをエージェント自己リフレクションではなく、明示的な検証と履歴を考慮した提案を備えたオフラインのミニバッチ最適化として定式化することで、異なるベースエージェントを用いた3つの異種ベンチマークにわたって約10 ppの向上をもたらすことを示しています。これは、「ハーネスチューニング」が、手作りのプロンプト工芸として扱うのではなく、ハイパーパラメータ探索とほぼ同程度の規律をもって自動化できるという強いシグナルです。

Source: https://arxiv.org/abs/2608.23041

拡散モデルにおけるOn-Policy Self-Distillation

問題設定

拡散モデルのRL fine-tuning(DDPO、DPOK、ReFL、およびDPO/DiffusionDPOのようなpreference-basedの変種)は、スカラーの画像レベルreward r(x_0) に基づいて生成を整合させます。しかし、エンドポイントのrewardにはステップごとの信号が存在しません。中間latent x_t とそのclean-output prediction \hat{x}_0(x_t;\theta) が与えられたとき、その予測がどうあるべきだったかは分かりません。既存のアプローチは、部分的なdenoising chainを通じてbackpropする(メモリ負荷が大きく、打ち切り点でバイアスが生じる)か、軌跡をRLのrolloutとして扱ってpolicy gradientを推定する(分散が高く、samplerを再利用するとoff-policyドリフトが生じる)かのいずれかです。本論文の前提は、\hat{x}_0 に対してクエリごとに明確に定義されたターゲットをローカルなreward gradientから構成できる、という点にあります。そして、そのターゲットへの当てはめを行うことで、「ターゲットの質」と「それをどれだけ実現できるか」を分離できます。この分解は、エンドツーエンドのreward backpropでは混在してしまいます。

手法

DiffusionOPSDは、凍結されたbehavior policy \pi_{\bar\theta} と学習可能なpolicy \pi_\theta をEMAで結合したon-policy self-distillationループです。

  1. Rollout。\pi_{\bar\theta} が完全な軌跡をサンプリングし、サンプリングされたタイムステップ t においてクエリ状態 x_t とアンカー予測 \hat{x}_0^{\text{anc}} = \hat{x}_0(x_t;\bar\theta) を生成します。
  2. ターゲット構成。微分可能なreward r を用いて g = \nabla_{\hat{x}_0} r(\hat{x}_0^{\text{anc}}) を計算し、アンカーの周囲に有界な正・負のターゲットを構成します。

\hat{x}_0^{+} = \hat{x}_0^{\text{anc}} + \eta\,\Pi(g),\qquad \hat{x}_0^{-} = \hat{x}_0^{\text{anc}} - \eta\,\Pi(g),

ここで \Pi は有界なprojection(normクリッピング/trust region)、\eta はターゲットステップです。ターゲットはdetachされており、微分可能なパスではなく教師信号として機能します。

  1. 有限回のfitting。distillation lossの内部ステップを K 回実行します。例えば、

\mathcal{L}(\theta) = \mathbb{E}_{x_t}\big[\|\hat{x}_0(x_t;\theta) - \hat{x}_0^{+}\|^2 - \lambda \|\hat{x}_0(x_t;\theta) - \hat{x}_0^{-}\|^2\big],

あるいは論文で用いられているpaired/contrastiveの変種を使用します。ターゲットは固定されており、クエリ状態は \pi_{\bar\theta} からサンプリングされるため、更新は凍結されたbehaviorに対してon-policyですが、\theta の視点からは教師あり回帰に帰着します。

  1. EMAの更新。\bar\theta \leftarrow \tau\bar\theta + (1-\tau)\theta により、得られた改善をsamplerに伝播させてループを閉じます。

方法論上の主要な貢献は、明確な因子分解にあります。ターゲット構成の質\hat{x}_0\hat{x}_0^{+} に置き換えた場合に r がどれだけ増加するか)は、有限実現によるゲイン(同じクエリに対してfittingのgradientステップを1回行った後に r がどれだけ増加するか)とは独立に測定されます。この分解は、ターゲットと更新が絡み合っているReFL型のパイプラインでは見えません。

結果

同一クエリを用いた制御実験により、\eta を大きくする(ターゲット構成のゲインを増やす)と、1回のfittingステップ後の実現ゲインが単調に改善されるわけではないことが示されています。閾値を超えると、ターゲットが x_t におけるネットワークのローカルな表現可能域を外れ、fittingによる実現が不十分になります。これが有界な \Pi を用いる操作上の根拠です。

スケールでは、SD 3.5-Mおよびステップdistill済みのZ-Image-Turboを対象に、10種類の評価器(aesthetic、HPS、PickScore、ImageReward、preference/qualityの代理指標)を用いて評価を行い、ベースラインはreward-modelへの総クエリ数で揃えています。DiffusionOPSDは、2つのbackbone × 10の評価器にわたるreward-matchedの設定20件中19件で最終的なheld-outスコアが最高となり、最も強力な比較手法(abstractでは省略されていますが、ReFL系およびpreference-tuningのベースラインを含む)を上回っています。Z-Image-Turboに対する結果は特筆すべきものです。ステップdistillされたsamplerは軌跡が短く、ステップごとのreward-gradient手法は通常性能が低下しますが、on-policyなターゲットfittingは有効であり続けます。これは、教師信号が残りのdenoisingステップを通じてbackpropするのではなく、各 \hat{x}_0 予測に対してローカルに与えられるためです。

制限と未解決の問題

  • Rewardの微分可能性。ターゲット構成には \nabla_{\hat{x}_0} r が必要であり、微分不可能または離散rewardにはサロゲートが必要です。
  • 有界なprojection \Pi はrewardのスケールに依存するハイパーパラメータであり、論文の制御実験はターゲットの大きさそのものよりもこのチューニングが重要であることを示唆しています。
  • EMAの時定数 \tau は有限fittingのバジェット K と相互作用し、外側のイテレーション内で \theta\bar\theta からドリフトするにつれてon-policyの保証が弱まります。
  • abstractでは、mode collapseや多様性に関する分析は報告されておらず、これはreward最大化による拡散モデルのfine-tuningにおける既知の失敗モードです。負のターゲット項 -\lambda\|\cdot - \hat{x}_0^-\|^2 がこれを正則化するかどうかは不明です。
  • 複合的または複数rewardの設定、および相反するrewardからのターゲットを \hat{x}_0 のレベルで組み合わせられるかどうかについては未解決です。

重要性

拡散モデルのreward fine-tuningは、微分可能rewardのbackpropとRLのpolicy gradientという2つのパラダイムに支配されてきましたが、いずれもターゲットの質と最適化のダイナミクスを混在させています。alignment をon-policy self-distillationとして再定式化し、\hat{x}_0 に対して明示的かつ有界なクエリごとのターゲットを用いることで、より明確な目標関数が得られ、短軌跡のdistilled samplerにも機能し、幅広い評価器パネルにわたって一貫した改善をもたらします。ターゲット構成と実現の分解が成立するなら、生成モデルにおけるステップごとのcredit assignmentに関する将来の研究に向けた、より原理的な基盤を提供します。

Source: https://arxiv.org/abs/2608.24646

長期ホライズンエージェントハーネスのための再帰的経験・ワーキングメモリ進化

問題

長期ホライズンのエージェントハーネスは、2つの相互に連関した理由によって性能が劣化します。増大し続けるインタラクション履歴 h_t が現在のタスク状態を希薄化することと、その履歴をキーとしたスキル検索が即時のニーズに不適合なスキルを呼び出すことです。従来の再帰的自己改善(RSI)システムは、エンドツーエンドのトラジェクトリからモノリシックなプロンプトやスキルライブラリを書き換えるものであり、特定の障害を実際に引き起こしたメモリコンポーネントを特定しないため、問題をさらに複雑にします。Recurisはこの両方に対処します。推論時にワーキング状態と経験的スキルを分離し、その結果として得られる構造化されたトレースを用いて、進化のラウンド全体にわたって特定のメモリコンポーネントへの障害帰属を行います。

Recurisと従来のメモリベースエージェントハーネスを区別する2つのシフト。

手法

ベースLLM \pi_\theta と外部ハーネスは固定されています。ラウンド k において、変更可能なメモリ制御レイヤーは

\mathcal{M}_k = (\mathcal{E}_k, \mathcal{W}_k, \rho_k, \mathcal{C}_k),

であり、\mathcal{E}_k は経験的スキルライブラリ(Anthropicエージェントスキル形式)、\mathcal{W}_k はタスクごとのワーキング状態 w_t のスキーマおよび更新提案仕様、\rho_k は実行イベントに対する呼び出しポリシー、\mathcal{C}_k は観測 o_tw_t の変更提案を実際に支持するかどうかを検証するチェッカーの集合です。

ステップ t においてエージェントは

a_t \sim \pi_\theta(\cdot \mid x, h_t, w_t, \mathcal{E}_t), \quad o_t = \mathrm{Env}(a_t; \mathcal{T}),

をサンプリングします。ここで \mathcal{E}_t \subseteq \mathcal{E}_k は、h_t に対して継続的に行われるのではなく、定義された実行イベント時に \rho_k によって選択されます。アクション後、\mathcal{C}_ko_t を検査し、それが支持するワーキング状態のデルタのみをコミットします。構造上の重要な点は、検索が h_t ではなく w_t に条件付けられているため、スキル選択が対話の表面ではなく未解決のゴールに基づいて行われることです。

タスク内ループ(a)とタスク横断的な進化(b)。

タスク横断的に、すべてのステップは (w_t, \mathcal{E}_t, a_t, o_t) としてログに記録されます。固定のMeta-Agent(Claude-CodeベースのLLMエージェントで、変更されることなく、テストスプリットにも公開されません)がこれらの構造化された障害トレースを読み込み、診断された各障害を \{\mathcal{E}, \mathcal{W}, \rho, \mathcal{C}\} のいずれかに帰属させ、コンポーネントをスコープとしたパッチを生成します。スコープはラウンド単位ではなく編集単位で設定されます。1ラウンドで複数のコンポーネントに変更が加えられる場合がありますが、各編集は特定の診断済み障害に紐付けられます。検証ゲートは、候補パッチが障害の発生元を修復し、かつ保留されたデベロップメントスプリットで退行を引き起こさない場合にのみ受け入れます。そうでなければ \mathcal{M}_k が保持されます。これにより、固定された外部プログラムの中で \mathcal{M}_k を進化させる有界な再帰ループが実現されます。

メモリは1つのベンチマークにつき、ベンチマーク固有のリファレンスエージェント(τ²-BenchではツールコールエージェントのQwen-Code CLI on SkillFlow、Terminal-Bench 2.1ではTerminus-2)を実行する単一の中規模デプロイメントモデル(doubao-seed-2-0-pro)で1回だけ構築されます。その結果得られた \mathcal{M} は、推論時にいかなるターゲットモデルにもそのまま読み込まれます。テスト時に進化は行われません。

結果

4つの長期ホライズンベンチマーク(τ²-Retail、τ²-Airline、SkillFlow、Terminal-Bench 2.1)と10のモデルにわたり、Recurisは完了した37のモデル–ベンチマークペアのうち35でタスク成功率を向上させています。主要な数値は以下の通りです。

  • τ²-Bench:GPT-5.6 Solで+17.8ポイント、Claude Opus 5で+15.6ポイント、Opus 5を87.9%のタスク成功率(SOTAレベル)に引き上げました。
  • SkillFlow:Qwen3.6-27B / 35Bでそれぞれ+16.6 / +13.5ポイント。
  • 最長ホライズンのスライス:+32.2ポイントであり、インタラクション長の増加に伴って優位性が拡大することを示しています。これは |h_t| の増大に伴い h_t から検索を分離することの重要性が増すという主張と一致しています。

評価プロトコルは厳格であり、τ²-Benchではエンバイロメントベリファイアが完全な報酬を付与した場合にのみ試行が成功とカウントされます。したがって、ユーザーとの合意があってもデータベースへの書き込みのコミットに失敗したエピソードは失敗としてカウントされます。読み取りアクションのリコールと必要な書き込みのリコールは別々に報告されており、エージェントが何をすべきかを理解しているかどうかと、それを実行できるかどうかが切り分けられています。書き込み側は \mathcal{C}_k によるワーキングメモリ検証が最も重要になる箇所です。各タスクは k=4 回試行され、200ステップと10回連続のツールエラーを上限とし、temperature 0で実行されます。SkillFlowはタスクごとのベリファイアスクリプト(プログラマティックであり、モデルによる判定ではありません)を使用しているため、手続き的スキルに関する主張からジャッジの分散が排除されています。

τ²-Retail Task 91における検証済みEM–WM結合。

τ²-Retail Task 91のケーススタディはこの結合を示しています。ツールの観測が書き込みを支持しない場合、チェッカーは w_t の更新を拒否し、対話が成功を示唆しているという前提で処理を進めるのではなく、エージェントが再試行するか正しいスキルを再呼び出しするよう強制します。

制限と未解決の問題

  • メモリは単一の中規模モデルで構築されます。著者はこれを特長として主張しています。メモリがモデルに共通するものを捉え、強力なモデルに固有の特性を捉えないためです。しかし、これは \mathcal{M} がデプロイメントモデルの能力の範囲内に下限付けられることも意味します。デプロイメントモデルが表面化できない障害は診断できません。
  • Meta-Agent自体がLLMであるため、局所化の品質はその帰属精度に依存しており、誤帰属率の分析や、ゲートがデベロップメントスプリットには汎化するがテスト分布には汎化しないパッチを受け入れた場合に何が起こるかについての分析は提供されていません。
  • \mathcal{C}_k のチェッカーカバレッジはドメイン固有であり、利益のどの程度がチェッカー由来か、ワーキングメモリ条件付き検索由来か、スキルライブラリ編集由来かは論文で定量化されていません。
  • Terminal-Bench 2.1の結果は適応実験を通じてのみ言及されており、抄録はベンチマーク横断的な完全な数値の前で切り捨てられています。
  • 37ペアのうち2つが退行しており、メモリ転送が有害となる条件は抜粋中では特徴付けられていません。

この研究の意義

Recurisは、長期ホライズンエージェントへのRSIがモデルの重みに触れたりハーネスを書き換えたりすることを必要としないことを示しています。コンポーネントをスコープとし、検証ゲートで管理された編集を伴う構造化された (\mathcal{E}, \mathcal{W}, \rho, \mathcal{C}) 分解だけで、ツールユースベンチマークにおいてフロンティアモデルをSOTAレベルに引き上げ、さらに注目すべきことにホライズンが長くなるほどリードを拡大できることが示されました。この設計は実行トレースを局所化可能な証拠へと変換するものであり、それはプロンプトドリフトに崩壊しない再帰的改善ループの前提条件です。

Source: https://arxiv.org/abs/2608.24876

Best Practice Critic Optimization

LLMのためのGroup-based RL(GRPO、Dr. GRPO)は、プロンプトごとにk個の応答をサンプリングしてグループ相対ベースラインを用いることでcriticを回避していますが、O(k)のロールアウトコストが発生します。十分に訓練されたcriticがあれば、単一の軌跡からトークンレベルのadvantageを復元できますが、critic-based PPOのレシピはLLMにおいて不安定になることで知られています。本論文はその不安定性の原因を特定し、BPCOという5つの選択肢を組み合わせたレシピを提案します:policy objectiveとしてのDPPO、報酬範囲に制約されたvalue予測、Monte Carlo value target、正規化なしのpolicy advantage、そしてlength-adaptive GAEです。criticは学習時のみ使用されるため、policyには隠された特権情報(参照解答、公式解答、採点基準)を追加でcriticに入力することも可能です。

制御されたサニティテスト

著者らは意図的に自明な最適化問題を設定しています:ベースモデルがすでに解けることのわかっている1,460の数学問題に対してDeepSeek-R1-Distill-Qwen-1.5Bをfine-tuningし、イテレーションごとに1,024の軌跡、minibatch 256、1エポック、policy LR 10^{-6}、critic LR 10^{-5}、1,500イテレーション、critic warmupなしという設定です。正しいレシピであれば学習報酬がほぼ100%に収束するはずであり、失敗はシグナルや容量の問題ではなく最適化の病理を示します。AIME 2025 avg@32はheld-outの汎化プローブとして追跡されます。

コンポーネントごとの構築

Step 1: PPO → DPPO。 標準的なPPOと\lambda=1では、学習報酬は初期上昇後に崩壊します。DPPOに切り替えて\lambda=1にすると安定した最適化が得られます。しかし\lambda0.99に下げるとDPPOも再び不安定になります。これが診断レバーです:\lambda<1のときは常に、advantage推定値

\hat{A}_t = \sum_{l=0}^{T-t-1}(\gamma\lambda)^l \delta_{t+l}, \quad \delta_t = r_t + \gamma V_\phi(s_{t+1}) - V_\phi(s_t)

はbootstrapされたcriticの予測を含み、V_\phi(s_t)\neq V^\mu(s_t)のときにバイアスを持ちます。著者らはそのため、後続のステップのストレステストとして\lambda=0.99を維持します——ここで生き残るレシピは、criticの誤差がpolicy更新に入り込む方法を真に制御していることを意味します。

後続のステップ(abstractおよびSection 3の足場に従って)では次のものが加わります:TD型bootstrappingではなくvalue回帰のための不偏なMonte Carlo target、V_\phi(s_t)を報酬範囲に制約するbounded value head(二値の正誤報酬では[0,1])、バッチ単位のadvantage正規化の除去(生のadvantageの大きさを保持)、そして応答長に対してlength-adaptive GAEで\lambdaあるいはcredit-assignmentホライズンを調整するもの——スパースな終端報酬を持つ数千トークンにわたるLLMの軌跡において重要です。

より広範な評価

スケールした実験では、同じ1.5Bモデルをデepscaler(約40.3Kの数学問題、公式解答付き約7.3K)でfine-tuningし、最大24Kトークンを生成します。ベースラインは軌跡のバジェットで揃えられています:

  • Group baseline: プロンプトごとに16応答のDr. GRPO(軌跡数を等しくするため異なるプロンプト数を少なく)。
  • Critic baseline: Monte Carlo value targetを用いたdecoupled GAE(Yuan et al., 2025)とlength-adaptive GAE(Yue et al., 2025)を組み合わせたものですが、unbounded value headとバッチ単位のadvantage正規化は維持。
  • BPCO はこの強力なcritic baselineとの違いはvalue予測の制約とadvantage正規化の除去のみです。
  • BPCO+Ans、BPCO+Sol、BPCO+Ans+Sol はさらに参照解答・公式解答・またはその両方をcritic(policyではない)に入力します。

critic-basedの手法はすべてプロンプトごとに1応答と15イテレーションのcritic warmupを使用します。すべての手法はpolicy objectiveの影響からadvantage推定の影響を切り離すためにDPPOを使用します。

BPCOは学習報酬、応答長、AIME 2025 avg@32のすべてで両ベースラインを安定して上回り、学習を通じてMonte Carlo targetに対する説明分散が高くなっています。これはより正確なcriticであることを示しており、単に正則化の優れたpolicy更新にとどまりません。

アブレーション

BPCO+Ansを起点として:

  • Value boundの除去 は学習報酬の改善を遅らせ、AIME 2025 avg@32を低下させます。criticの出力範囲を達成可能な収益に揃えることは、サニティテストだけでなく40K問題スケールでも有益です。
  • バッチ単位のadvantage正規化の再導入 により、学習中にadvantageの大きさが増大します(サニティテストほど深刻ではありません)。学習が完全に収束していないため、ここでの性能損失は軽度ですが、著者らはデフォルトとして正規化を除去することを推奨しています。
  • 特権情報: criticに参照解答を与えると学習が速まり、説明分散が高まり、AIME 2025の結果も向上します。公式解答を与えることも適度に有効であり、40.3K問題中7.3Kにのみ公式解答があるにもかかわらずそのような効果が見られます。特権情報は、データセットが十分大きくcriticのoverfittingが律速制約でない場合、ほぼ無償のwinnです。

同じレシピはrubric-basedの報酬や30B-A3B MoEモデルまで転移すると報告されていますが、抜粋されたセクションではそれらの数値は示されていません。

限界とオープンクエスチョン

サニティテストは構成上解ける部分集合を最適化しており、診断価値は高いものの「レシピが簡単な設定を安定させる」から「レシピはスケールで最適である」への一般化はヒューリスティックです。\lambda=0.99の選択はチューニングされた値ではなくストレステストであり、BPCOの安定性が分散低減が最大になるより積極的なbootstrapping(\lambda\ll1)にまで拡張されるかは不明です。説明分散はcriticが回帰する同じMonte Carlo targetに対して報告されており、循環的な指標になるリスクがあります。Rubric-basedの結果は主張されていますが提供された抜粋では定量化されておらず、軌跡数を揃えた場合ではなく計算量を揃えた場合のGRPOとの直接比較がありません(グループ手法の16倍のロールアウトコストへの影響が異なります)。

なぜこれが重要か

単一応答のcritic-basedレシピが数学的推論で16サンプルのGRPOに匹敵あるいは凌駕できるなら、RLポスト学習の計算経済学は大きく変わります。また特権的criticの条件付けは、参照シグナル(解答・採点基準・ユニットテスト)をpolicyに漏らすことなく注入するクリーンなチャンネルを開きます。BPCOは「criticはLLMには機能しない」という主張を、bounded head・非正規化advantage・Monte Carlo targetに関するエンジニアリング上の問題として再定式化しており、根本的な問題ではないと示します。

Source: https://arxiv.org/abs/2608.23566

On-policy Distillation with Verifiable Reward

推論タスクにおけるLLMのpost-trainingは、現在2つの軸に沿って分かれています。RLVR(ルールベースの検証器を用いたGRPOなど)は正解・不正解のtrajectoryレベルの報酬を与えますが、トークンレベルのクレジット割り当てがないため、学習はスパースで分散が高くなります。On-policy distillation(OPD)は、学生のrolloutに沿って教師との逆KLを最小化することで、密なトークンごとのgradientを与えますが、教師の品質に上限が設けられており、サンプリングされたtrajectoryが実際にタスクを解いているかどうかには無関心です。既存のハイブリッド手法はloss重み付けやヒューリスティックな切り替えによって両者を組み合わせており、ハイパーパラメータと不安定なトレードオフが生じます。OPDVRは、両者のgradientの間の直接的な代数的対応から導出された、ハイパーパラメータ不要の統一手法を提案します。

サンプリングトークンOPDから暗黙的な検証器報酬へ

出発点は、サンプリングトークンOPDで用いられる1サンプルの逆KL推定量です:

\mathcal{L}_{\text{OPD}}^{\text{sample}}(\theta) = \mathbb{E}_{o \sim \pi_\theta}\left[\sum_{t=1}^{|o|} \log \frac{\pi_\theta(o_t \mid q, o_{<t})}{\pi_T(o_t \mid q, o_{<t})}\right].

サンプリング分布を1つのMC推定において固定とみなした場合、そのgradientは次のようになります:

\nabla_\theta \mathcal{L}_{\text{OPD}}^{\text{sample}} = \sum_t \log \frac{\pi_\theta(o_t)}{\pi_T(o_t)} \cdot \nabla_\theta \log \pi_\theta(o_t).

これをRLVRのpolicy-gradient loss \mathcal{L}_{\text{RLVR}} = -R \sum_t \log \pi_\theta(o_t)(そのgradientは-R \sum_t \nabla_\theta \log \pi_\theta(o_t))と比較します。係数を照合することで、暗黙的なトークンごとの報酬が特定されます:

R_{\text{OPD}}(o_t) = \log \frac{\pi_T(o_t \mid q, o_{<t})}{\pi_\theta(o_t \mid q, o_{<t})}.

問題はすぐに明らかです:R_{\text{OPD}}の符号は、教師が学生よりもo_tに高い確率を割り当てるかどうかによって決まり、trajectoryの正確さによるものではありません。\pi_T(o_t) > \pi_\theta(o_t)となる不正解のtrajectory上では、そのrolloutに沿って教師の指導が誤った答えをもたらしたにもかかわらず、OPDは依然として学生を教師のトークンへと押し進めます。逆に、学生がすでにあるトークンで教師を超えている正解のtrajectory上では、OPDは学生を引き戻します。

ReLUゲーティングによる修正

OPDVRは、暗黙的な報酬の形状を変え、その符号が検証器の結果と一致するようにしつつ、大きさを教師・学生の対数比に結びつけます。具体的には、正解のtrajectoryでは\log(\pi_T/\pi_\theta)の非負部分のみを保持し、不正解のtrajectoryでは\log(\pi_\theta/\pi_T)の非負部分のみを負符号付きで保持します。ReLUゲートとして表記すると:

R_{\text{OPDVR}}(o_t) = \begin{cases} \mathrm{ReLU}\!\left(\log \tfrac{\pi_T(o_t)}{\pi_\theta(o_t)}\right), & \text{trajectory correct},\\[4pt] -\mathrm{ReLU}\!\left(\log \tfrac{\pi_\theta(o_t)}{\pi_T(o_t)}\right), & \text{trajectory incorrect}. \end{cases}

図1: 概要と同一アーキテクチャでの結果。

ゲーティングには明確な解釈があります:正解のrolloutでは、教師が学生より高い確信度を持つトークンのみが寄与し(教師が学生を引き上げる)、不正解のrolloutでは、学生が教師より高い確信度を持つトークンのみが寄与します(学生は自身の過信した誤った動きから遠ざけられる)。検証器の結果と符号が矛盾するトークンはゼロになります。重要なことに、OPDとRLVRの項のバランスを取るスケーリング係数は存在せず、ゲートは既存のOPD lossの内部に適用されます。

図2: OPDVRパイプライン。

実験

2つの設定が評価されます。同一アーキテクチャ:学生Qwen3-4B-nonthinking、教師はフィルタリングされたDeepMathサブセット(約57k、難易度\geq 6)上でGRPOを用いて訓練されたQwen3-4B。クロスアーキテクチャ:学生Qwen3-1.7B-base、教師はDAP-Math-17k上でGRPOを用いて3エポックfine-tuningされたQwen3-4B-base。ベンチマーク:AIME24、AIME25、AMC、MATH500、Minerva、OlympiadBench。

同一アーキテクチャ設定(図1右、AIME24/25とAMCのavg@16)では、OPDVRは報告された競技ベンチマーク全体でサンプリングトークンOPDを上回ります。アブレーションはゲーティングの選択を直接分離しています:OPD、OPDVR、および保持する対数比を反転させた「逆ゲート」変種です。

図3: ゲーティング方向のアブレーション。

訓練時の正確度報酬曲線は、OPDVRが着実に上昇し、通常のOPDが遅れを取り、逆ゲート変種が本質的に学習に失敗することを示しており、符号の整合性(単にゲートの存在ではなく)が利得を生み出していることを確認しています。右パネルは6ベンチマークの平均精度で同じ順序を示しています。

限界と未解決の問題

導出は逆KLの1サンプルMC推定に基づいており、その分散を引き継ぎます;ゲーティングは変分目的から導出されるのではなくpost-hocに適用されるため、最適化される正確な発散はもはや標準的なD_{\text{KL}}ではありません。すべての実験はルールで検証可能な答えを持つ数学的推論に対して行われており、よりノイズの多い検証器(コードテストスイート、LLMジャッジ)への拡張はテストされていません。また、ゲートの非対称ゼロ化は報酬ノイズとの相性が悪い可能性があります。両設定ともQwen3を教師と学生として使用しているため、クロスファミリーの教師(学生と教師のトークン分布が大きく異なり、対数比の大きさが爆発するケース)はテストされていません。最後に、本論文はチューニングされた重み付きOPD+RLVRベースラインを最適ハイパーパラメータで比較するのではなく、未混合のOPDと逆ゲートアブレーションとのみ比較しています。

なぜ重要か

サンプリングトークンOPDを暗黙的なトークンレベルのpolicy gradientとして再定式化することで、特定の符号不一致の病理が明らかになり、パラメータ不要の修正が得られます:重み付けノブなしに密な教師の指導とスパースな検証器の正確さを組み合わせるReLUゲートです。これが数学以外にも一般化するならば、distillationとRL lossをヒューリスティックにブレンドする現在の手法に対するよりクリーンな代替手段となります。

Source: https://arxiv.org/abs/2608.24696

Hacker News Signals

Hot Chips 2026: CUDAがRISC-Vを標的に – Chester Lam著

Chester LamによるHot Chips 2026発表内容の分析は、NVIDIAがCUDAをRISC-Vホストプロセッサへ移植する方針を公表したことを取り上げています。技術的な核心は、独自設計のFalconマイクロコントローラコア(より広くはHopper/BlackwellにおけるARMベースの管理プロセッサ)を、GSP(GPU System Processor)の役割やその他のファームウェアスタックを担うRISC-Vコアに置き換えるという点にあります。

この動きはアーキテクチャ上の重大な意味を持ちます。FalconコアはNVIDIA独自のものであり、内部ツールチェーンを必要とします。一方RISC-Vは、ロイヤリティフリーのISAと公開されたツールチェーンエコシステム(LLVM、GCC、Clang)をNVIDIAに提供し、ARMライセンスへの依存を低減しながら、標準的な拡張機能メカニズムを通じたISAのより積極的なカスタマイズを可能にします。NVIDIAはすでに一部の組み込みコンテキスト(nvdlaや一部のTegraサブシステムがマイクロコントローラ用にRISC-Vを採用)においてRISC-Vコアを出荷しており、これは新たな賭けというよりも既存の社内方針の延長線上にあります。

CUDAを対象とするという側面は、問題のRISC-VコアがファームウェアをただRUNするだけでなく、CUDAドライバおよびランタイムディスパッチパス――カーネルの起動、メモリ管理、同期を管理するCUDAのホスト側部分――にも関与することを意味します。Lamは、ソフトウェアスタックへの影響として次の点を指摘しています。CUDAのホストランタイムは現状、CPU側としてx86-64またはaarch64を前提としているため、RISC-Vサポートには、CUDAコンパイラツールチェーンへの新たなバックエンドの追加か、トランスレーションレイヤーのいずれかが必要となります。LLVMのRISC-Vバックエンドが成熟していることを考えれば、前者の可能性が高く、またRISC-V SoC上でのHPCや組み込みGPUの展開にも恩恵をもたらすでしょう。

競合面からは、この動きはNVIDIAをARMライセンス圧力から将来的に守るとともに、より広い業界のシフト(SiFive、Ventana、EsperantoがいずれもサーバークラスのRISC-Vを推進)に沿いながら、GPU computeをNVIDIA自身が管理するスタックに緊密に結びつけ続けることにもなります。

Source: https://chipsandcheese.com/p/hot-chips-2026-cuda-targets-risc


政府サービスへのエージェント型フラッディングの特性評価

このarXiv論文は、従来のDDoSとは異なる脅威モデルを検討しています。それは、自律型AIエージェントが政府のデジタルサービス(給付金申請、許可申請、パブリックコメントポータルなど)に対して、形式的に有効なリクエストを大量に送信するというものです。ネットワーク層への帯域幅攻撃とは異なり、エージェント型フラッディングはアプリケーション層の妥当性チェックを通過します。なぜなら、各リクエストが意味的に一貫しており、正しいフォーマットで記述されているためです。

著者らはいくつかの攻撃対象領域を特性評価しています。パブリックコメント期間(例えば米国のAPA(行政手続法)に基づく規制上の告示・コメント手続き)は、特に脆弱であるとされています。その理由は、提出件数に厳格な上限がなく、行政機関は名目上、各実質的コメントを検討することが求められているからです。話題的に多様でありながら特定の政策方針に沿ったコメントを生成できるエージェントは、人間によるレビューを希薄化・圧倒することができます。同様に、申請をアルゴリズム的に処理する給付金申請ポータルは、合成アイデンティティや微妙に変化させた正規の認証情報を用いてフラッディングされ、審査ロジックを探索したり、キューを飽和させたりすることが可能です。

この論文は、スループット(単位時間あたりのリクエスト数)、意味的多様性(重複排除のヒューリスティックを回避するため)、および一貫性(自動的な正当性フィルタを通過するため)の観点から脅威を形式化しています。検討されている防御機構には、認証済みアイデンティティごとのレート制限、提出に対するプルーフ・オブ・ワーク方式、生成テキストのバッチを検出するための文体的クラスタリング、および提出パターンの行動的フィンガープリンティングが含まれます。著者らは、これらの防御手段にはすべて回避経路が存在すると指摘しています。すなわち、エージェントの分散配備はアイデンティティごとのレート制限を無効化し、高品質なLLMの出力は旧来の生成テキストで訓練された文体的検出器を突破します。

論文が提起する重要な未解決問題は規範的なものです。エージェントによって生成されたと疑われる提出物を政府機関が棄却または軽視すべき検出閾値はどこに設定すべきか、という問いです。偽陽性は正規ユーザーの権利を剥奪し、偽陰性はフラッディングを成功させてしまうからです。ここには明確な技術的解答は存在せず、これは敵対的MLと行政法の交差領域に位置する問題です。

Source: https://arxiv.org/abs/2608.16603


ブラックホールの特異点は点ではなく面である

本論文は、量子重力およびループ量子宇宙論(LQC)における最近の進展を用いて、ブラックホールの内部幾何学を再検討するものです。古典的な一般相対性理論(GR)の描像では、特異点はシュワルツシルトブラックホールまたはカーブラックホールの内部の r = 0 に位置します。これは、すべての落下する時間的測地線が必ず到達しなければならない、シュワルツシルト内部における空間的超曲面です。これを「点」と呼ぶことはすでに単純化であり、より正確にはカーター=ペンローズ図における空間的超曲面と言えます。

本論文の主張はより明確です。量子補正(具体的にはLQCで用いられるポリマー量子化)を取り入れることで、r=0 における古典的な発散を、有限の曲率を持つバウンス面で置き換えます。このフレームワークでは、古典的な特異点を通じて計量が拡張され、かつて特異的な軌跡であった場所は、量子補正された曲率がプランクスケールの極大値に達した後に減少する2次元面(空間的な意味で)となります。特異点は「解消」され、曲率はいたるところ有限に保たれ、結果として得られる幾何学は、無限の曲率を持つ点ではなく、曲率が極大となる面を持ちます。

技術的な内容は、カントフスキー=ザックスのミニスーパースペース(シュワルツシルトブラックホールの内部を記述する)に適用されたLQCの有効ハミルトニアンを含み、接続変数における \delta-パラメータとして最小面積補正が導入されます。古典的な特異点条件 p_c \to 0 は、p_c が最小面積固有値に達したときのバウンスに置き換えられます。

観測的な帰結は現在の検出器の能力においてはほぼ皆無ですが、この結果はブラックホール情報問題に対して含意を持ちます。もし特異点が時空の終端ではなく有限の面であるならば、情報が破壊されるかどうかという問いは、異なる形で再び開かれることになります。

Source: https://arxiv.org/abs/2608.21590


AIにコードで絵を描くことを学習させる

Suryaの投稿では、ターゲット画像を生成するSVGまたはcanvas APIのコードを出力するよう、Qwen(コード生成能力を持つLLM)を強化学習によってfine-tuningする手法を解説しています。これは実質的に、視覚的な描画タスクに対してコード生成を行動空間として利用するものです。

技術的なセットアップはRLループとなっており、モデルがコードを出力し、そのコードはサンドボックス化されたレンダラーで実行され、レンダリングされた画像がターゲットと知覚的類似度指標(LPIPSまたはSSIM)によって比較され、その比較から得られる報酬シグナルがPPOまたはREINFORCE型のgradientを通じてモデルの更新に使用されます。このアプローチはピクセルレベルのdiffusionを完全に回避しており、モデルはSVGやHTML5 Canvasで利用可能な幾何学的・色彩的プリミティブを通じて視覚的構造を表現することを学習します。

ここで生じる興味深いエンジニアリング上の課題は次の3点です:(1) 微分可能性 — コード実行ステップは微分不可能であるため、分散の大きいpolicy gradient手法に頼らざるを得ない;(2) 報酬の設計 — 初期のコードがターゲットと視覚的に大きくかけ離れた出力を生成する場合、生のピクセル類似度報酬はスパースになるため、カリキュラム戦略や中間報酬(例:描画した図形のバウンディングボックスのオーバーラップ)が必要となる;(3) 実行のサンドボックス化 — 任意に生成されたコードを各学習ステップで安全かつ高速に実行しなければならない。

示された結果は、単純なシーンに対して質的に印象的なものとなっています:モデルは画像をレイヤー状の図形に分解し、それらをプログラム的に構築することを学習します。写真的な複雑さを持つ画像には対応できませんが、これはSVGのプリミティブ語彙が限られていることを考えれば想定内です。

より広い文脈での意義として、これは数値的でないタスクに対して実行フィードバックを報酬シグナルとして用いるパターンの一例であり、ground-truthの出力が評価可能であるものの微分不可能な他のプログラム合成設定にも一般化できるパターンです。

Source: https://surya.website/rling-qwen-to-paint-with-code


str.lower() がPythonにおけるセキュリティ脆弱性になるとき

Seth Larsonの投稿は、Pythonのセキュリティ上重要な文字列比較を破壊し得る、UnicodeのCase-foldingエッジケースについて、精緻かつ適切にスコープを絞った分析です。典型的な例はケルビン記号です:"\u212A".lower()"k"(ASCII の k)を返すため、ケルビン記号を含む文字列を小文字化すると、通常の k を含む文字列と等しくなります。Pythonの str.lower() は、ASCIIのみの小文字化ではなく、完全なUnicodeのCase mappingを実行します。

セキュリティ上の問題が生じるのは、認可処理、ルーティング、あるいはallowlistチェックにおいてCase-insensitiveな比較が使われる場面です。具体的なパターンとして、WebフレームワークがURLパスを .lower() で正規化してから、許可されたエンドポイントのallowlistと照合する場合を考えます。攻撃者は、許可されたASCII文字にfoldされるUnicode文字を含むパスを送信することで、このチェックを回避できます。一方、下流のハンドラ(小文字化を行わない場合)は元の文字列を受け取って異なるルーティングを行います。これは、パストラバーサルやドメインバリデーションのバグで見られる古典的なUnicode正規化バイパスの亜種です。

修正方法はコンテキストに依存します。ホスト名、ファイル拡張子、HTTPメソッド名といったASCIIのみの比較には、str.lower() をASCIIバイトのみを小文字化する関数に置き換えるべきです:s.encode('ascii').lower().decode('ascii') か、ASCII範囲に対する明示的な str.translate を使います。Pythonの re モジュールには、foldingをASCIIに限定するCase-insensitiveな正規表現のための re.ASCII フラグがあります。完全なUnicode foldingが必要な国際化された入力に対しては、str.casefold()str.lower() よりも積極的にfoldingを行い、正しい比較のプリミティブとなりますが、比較の両側で一貫して使用する必要があります。

Larsonはこれを実際のパッケージのCVEと結びつけており、この投稿を単なる理論的な好奇心以上のものにしています。ケルビン記号は最も劇的な例ですが、他にもトルコ語における例があります(\u0130 LATIN CAPITAL LETTER I WITH DOT ABOVE は、トルコ語ロケールのルール下では i に小文字化されますが、Pythonの str.lower() はデフォルトではロケールに依存しません)。

Source: https://sethmlarson.dev/when-str-lower-is-a-security-vulnerability


Agent Is Not the Model

Joe WrightのポストはシステムデザインKに関する議論を展開しています。「agent」のアーキテクチャ的な境界は、オーケストレーションロジック・ツール統合・メモリ管理・意思決定ループを囲む形で引くべきであり、基盤となるLLMを囲む形で引くべきではないという主張です。モデルはあくまでコンポーネントの一つであり、原則として交換可能です。agentのアイデンティティをモデルのアイデンティティと同一視すると、脆弱なシステムが生まれます。

技術的な議論は関心の分離についてです。agentの振る舞いを決定するのは、プロンプト/コンテキスト構築戦略、公開されるツールスキーマ、リトライおよびエラー処理ロジック、メモリ検索メカニズム(RAG・エピソードバッファ・構造化ステート)、そして計画/リフレクションループ構造です。これらのいずれも、特定のモデルチェックポイントに固有のものではありません。「GPT-4 agent」として設計されたシステムは、別のモデルに切り替える際に壊れるかリアーキテクチャが必要になりますが、クリーンなmodel-providerインターフェースを備えて設計されたシステムであれば、最小限の変更でモデルを交換できます。

実践的な含意はインターフェース設計にあります。Wrightは、LLMを型付きインターフェース(入力:構造化コンテキスト+利用可能ツール、出力:構造化アクションまたはレスポンス)でラップすることを推奨しています。こうすることで、agentの残りのコードが、特定のプロンプト形式・トークン制限・JSON-modeの挙動といったモデル固有の癖に依存しなくなります。これは標準的なソフトウェアエンジニアリングの原則——実装ではなくインターフェースに対してプログラムする——を、ラピッドプロトタイピングが密結合を助長してきた分野に適用したものです。

このポストはevaluationにも言及しています。agentとモデルが同一視されている場合、オーケストレーションロジックとモデル能力を独立してベンチマークすることができず、「モデルの性能が低下した」のか「プロンプティング戦略が誤っている」のかを区別することが不可能になります。両者を分離することで、よりクリーンなablationが可能になります。

Source: https://code.joejag.com/2026/your-agent-is-not-the-model.html


Gleamコンパイラのファジング

この記事は、Rustで書かれておりBEAM(Erlang VM)とJavaScriptをターゲットとするGleamコンパイラに対して、カバレッジガイドファジング(libFuzzer/AFL++スタイル)を適用した取り組みを記録したものです。Gleamコンパイラはファジングの対象として自然な選択です。任意のテキスト入力を受け取り、字句解析、構文解析、型推論、コード生成を実行しますが、入力がどれほど不正であっても、クラッシュや未定義動作を決して引き起こさないことが求められるからです。

技術的なセットアップとしては、バイト列をコンパイラの構文解析エントリポイントに渡すファズハーネスを記述し、エッジカバレッジを計測するためにバイナリをインストルメントします。著者はlibFuzzerをRustのビルドシステムに統合するcargo-fuzzを使用しています。コンパイラのファジングにおける非自明な課題のひとつは、入力空間が高度に構造化されている点です。ランダムなバイト列は構文的に興味深いプログラムをほとんど生成しないため、著者はGleamの文法を用いた文法ベースのミューテーションも試みています。これにより、純粋なランダムバイト列では到達できない、より深いコンパイラステージ(型チェッカー、網羅性チェッカー)を実行させることができます。

発見された問題としては、パーサーに存在するいくつかのパニックパス、および再帰的な型エイリアスの特定の組み合わせによって引き起こされる型推論ステージでの1件のパニックが挙げられます。これらは従来の意味でのセキュリティ脆弱性ではなく、正当またはほぼ正当なプログラムに対してコンパイラがクラッシュする正確性バグです。しかし、「実行時エラーなし」を強く保証する言語においては、コンパイラの信頼性もトラストモデルの一部を構成します。

この記事は、Rustベースのコンパイラをファジングしたい人にとって有用なテンプレートとなっています。ハーネスの構造、既存のテストスイートからのコーパスシーディング、非終了プログラムによるタイムアウトの処理(コンパイラのファジングにおける真の危険要素)、そして発見されたクラッシュを浅いパニックと深いロジックエラーとに区別するためのトリアージについて詳しく解説されています。

Source: https://www.kurz.net/posts/fuzzing-gleam-compiler


Qwen3.8-Flash-Next: 125Bパラメータ MoE、アクティブパラメータ約6B

ModelScopeのQwen3.8-Flash-Nextリリースページでは、総パラメータ数125B、フォワードパスあたりのアクティブパラメータ数が約6Bのmixture-of-expertsモデルが説明されています。「Flash」という命名規則は、推論効率を目的としたAlibabaの既存の「Qwen-turbo/flash」ファミリーと一致しており、「Next」はQwen3以降の開発サイクルを示唆しています。

125B/6Bアクティブの比率は、スパースなtop-kルーティングを用いたおよそ20のexpertを意味し、Qwen3-235B-A22B(総数235B、アクティブ22B)で採用されているアーキテクチャと一致しています。アクティブパラメータ数が6Bであるため、推論コストは密な6〜7Bモデルに相当する一方、総パラメータ数125Bによって、expertを特化させるためのキャパシティプールが大幅に拡大されています。このトレードオフはよく知られており、このスケールのMoEモデルは、推論や知識ベンチマークにおいて、同等のアクティブパラメータ数を持つ密なモデルと同等かそれ以上の性能を一貫して示す一方、全expertの重みを保持するためにより大きなメモリを必要とします(bf16での125Bパラメータは約250GBとなり、マルチGPUによるサービングが必要です)。

名称中の「8-Flash」は、expertの数ではなく、コンテキスト長またはバージョン番号を指している可能性が高いです。HNのディスカッションでは、トレーニングレシピについて——Qwen3と同様のthinking/non-thinkingモード切り替え(<think>トークンがchain-of-thoughtモードを起動する仕組み)を採用しているか、またflashバリアントが推論の深さの一部を低レイテンシと引き換えにしているか——について推測がなされています。

実務者にとって重要な問いは、量子化された形式でアクセス可能なハードウェアにモデルが収まるかどうかです。4ビット量子化では、125Bパラメータは約62GBに圧縮され、2x80GB H100構成で利用可能な範囲に収まります。投稿時点で報告されているベンチマークの数値は、アクティブパラメータ数がより少ないQwen3-30B-A3Bと比較して、MATHおよびコーディングベンチマークにおいて競争力のある性能を示しています。

Source: https://modelscope.cn/models/Qwen/Qwen3.8-Flash-Next

注目の新規リポジトリ

patchy631/time-to-first-token

LLM推論サービングと最適化を対象とした、10週間の体系的なカリキュラムです。研究プロトタイピングではなく、本番環境レベルのスループットを必要とするエンジニアを対象としています。各日単位は約30分の学習量に設定されており、batching の基礎から始まり、vLLM における continuous batching、prefix caching、PagedAttention の仕組み、SGLang の RadixAttention まで、スタック全体をカバーしています。後半の週では、quantization(GPTQ、AWQ、FP8)、speculative decoding(draft model および Medusa heads)、disaggregated prefill/decode、そして LMBench やカスタム TTFT/TPOT ハーネスといったツールを用いた体系的なベンチマーク手法を取り上げています。カリキュラムは実行可能なノートブックと説明文のペアで構成されており、概念が測定可能な成果に紐付いています。場当たり的なブログ記事を読む場合との違いは、トピックの依存関係に基づく順序付けにあります。たとえば、KV cache のメモリ管理は speculative decoding よりも先に導入されており、speculative decoding はそのモデルを前提としています。推論インフラへのオンボーディングを行う ML エンジニア、あるいは最適化対象となるレイテンシ・スループットのトレードオフを理解したい研究者にとって有用です。推論エンジニアリングの事前知識は不要ですが、transformer アーキテクチャへの習熟は全体を通じて前提とされています。

Source: https://github.com/patchy631/time-to-first-token


lexmount/moli

RustでつくられたヘッドレスブラウザであるMoliは、人間向けの自動化ではなく、AIエージェントによるプログラマティックなウェブ操作を目的として設計されています。コア設計の目標はリソースオーバーヘッドの最小化であり、PlaywrightやPuppeteerのようなChromiumベースのヘッドレス選択肢と比較して、高速なコールドスタートとタブあたりの低メモリ消費を実現します。ナビゲーション、DOMクエリ、フォーム操作、JavaScript実行のためのクリーンなAPIサーフェスを提供しつつ、フルブラウザエンジンのIPCオーバーヘッドを持ち込みません。Rustでの実装により、多数の同時エージェントセッションにわたる安全な並行処理が可能となり、高負荷の並列ワークロード時にNodeベースの自動化フレームワークで発生するGCポーズを排除しています。標準に準拠したレンダリングによって高い互換性を謳っていますが、V8固有のJS挙動に依存するサイトに対しては、実際のレンダリングバックエンドを精査する必要があります。ウェブスクレイピング、フォーム入力、UIテストなど、数十の並列ブラウザコンテキストを起動するエージェンティックなパイプラインにおいては、インスタンスあたりのコストが大きく影響します。十分に型付けされたRust APIを備えた軽量ヘッドレス選択肢は、現在のツール環境における正当なニーズを満たすものです。

Source: https://github.com/lexmount/moli


memorax-ai/memorax-code

AIコーディングアシスタント向けのmemory layerプラグインであり、リポジトリの構造と規約、プロジェクト固有のエンジニアリング上の意思決定、そして個々の開発者のワークフロー上の好みという3つのカテゴリの知識を永続化・検索します。タスクのたびにコードベース全体をcontextに再注入するのではなく、Memorax-Codeは過去のインタラクション(コードレビュー、採用されたサジェスト、修正されたアウトプット)からインデックス化されたmemoryを構築し、将来のpromptのprefix contextとして関連するフラグメントを選択的に提示します。これはステートレスなコーディングエージェントの根本的な制約、すなわち各セッションがコールドスタートとなり、命名規約・アーキテクチャ上の制約・好まれるライブラリの選択に関する蓄積された理解が失われてしまう問題に対処するものです。検索メカニズムは、保存されたmemoryチャンク上でembeddingベースの類似度を用い、再ランキングの前にファイルパス・言語・タスクタイプによるメタデータタグ付けによって候補を絞り込みます。統合の対象はClaude CodeやCursorといったツールです。未解決の問題は陳腐化です。古いコードベースのリビジョンに対して構築されたmemoryは、助けになるどころか誤った方向に導く可能性があるため、大規模なリファクタリング時の無効化ポリシーは、このプロジェクトが明示的に対処する必要がある現実のエンジニアリング上の課題です。

Source: https://github.com/memorax-ai/memorax-code


pgrundev/pgbot

AIエージェントおよびアプリケーション向けのPostgresインテリジェンスレイヤーであり、稼働中のPostgreSQLインスタンス上で構造化されたイントロスペクションとクエリ生成機能を提供します。PGBotは、スキーマ探索、クエリプランニングの説明、インデックス推薦、および自然言語からSQLへの変換を、エージェントが呼び出し可能なツールとして公開しています。その考え方は、データベースを扱うエージェントには生のクエリ実行以上のものが必要であり、低速または破壊的になり得るステートメントを発行する前に、テーブルの関係性、カーディナリティ、クエリコストについて推論できなければならないというものです。PGBotは、pg_stat_*ビュー、EXPLAIN ANALYZE出力のパース、およびスキーマリフレクションを、LLMエージェントが反復的に呼び出せる一貫したAPIにまとめています。これは単純なtext-to-SQLラッパーとは本質的に異なります。エージェントが低速なクエリを自己修正したり、大規模な実行前にインデックスが欠如していることを発見したりできる程度に、データベースの内部情報を公開しているからです。実践的なユースケースは、エージェントが不慣れなスキーマを安全に探索する必要があるAI支援のデータエンジニアリングおよびアナリティクスワークフローです。Postgres固有の焦点を絞ることで、マルチデータベース抽象化と比較してサーフェスエリアを管理可能な範囲に抑えています。

Source: https://github.com/pgrundev/pgbot


only-cli/oc

任意のウェブサイトをAIエージェントが利用しやすいコンパクトかつトークン効率の高い表現に変換するCLIツールです。完全なHTML、インラインCSS、スクリプト、ボイラープレートを含む形でウェブページをそのまま取得すると、1ページあたり数万トークンを消費することがあり、ウェブブラウジングエージェントのコストが高く動作も遅くなります。OCはレンダリングの副産物を除去し、ページコンテンツをミニマルなスキーマ(ナビゲーション構造、本文テキスト、インタラクティブ要素、リンク)へと再構成します。このスキーマは通常数百トークンに収まります。エージェントはフルブラウザではなく、oc fetchoc searchoc navigateというサブコマンドを通じてウェブと対話するため、インターフェースはステートレスでスクリプト化が容易です。このアーキテクチャはPlaywrightよりもLynxに近い設計です。JavaScriptの実行もDOMレンダリングも行わず、意味的に関連するコンテンツを構造的に抽出するだけです。このトレードオフは明示的なものです。JSによってコンテンツが制御されている高度に動的なシングルページアプリケーションは、部分的または完全に不透明になります。主にドキュメントの読み取り、構造化されたサイトのクロール、表形式データの抽出を必要とするエージェントにとっては、トークン削減の効果が大きく、ブラウザへの依存がないためデプロイも簡素化されます。

Source: https://github.com/only-cli/oc


soumatheusgomes/vibe-coding-toolkit

AI支援ソフトウェア開発向けに、本番環境から得られた設定・promptテンプレート・オーケストレーションパターンをまとめたキュレーションコレクションです。主にClaude Codeユーザーを対象としています。技術的な内容としては、サブエージェントオーケストレーションのレシピ——大規模なコーディングタスクを並列サブタスクに分解し、独立したエージェントインスタンスへディスパッチしてからマージするパターン——と、変更を受け入れる前にlint・型チェック・テスト実行の結果をエージェントのコンテキストに注入するquality gateが含まれています。Claude Codeのプラグイン設定は、カスタムスラッシュコマンド・ツールの権限スコーピング・大規模リポジトリ向けのcontext window管理をカバーしています。汎用のpromptコレクションと差別化される点は、各パターンに本番運用で観察された失敗事例——サブエージェントが意図した動作から逸脱するケース、quality gateが誤検知を生成してループが停止するケース、および適用された緩和策——が注釈として付与されていることです。promptはそのままコピー&ペーストして使用できますが、より重要なのはそれらが修正しやすい構造になっている点で、変数スロット(言語・フレームワーク・テストランナー)が明示的に公開されています。完成品としてではなく、内部AIコーディングワークフローを構築するチームのベースラインとして活用するのに適しています。

Source: https://github.com/soumatheusgomes/vibe-coding-toolkit


sodiumsun/agenttrail

AIコーディングエージェント向けのローカル観測ツールで、クラウドテレメトリを必要とせずにランタイムの挙動(計画ステップ、ツールコール、ファイルシステムへの変更、進捗状態)をリアルタイムで可視化します。AgentTrailはClaude Code、OpenAI Codex、Cursorのツールコールストリームをインターセプトすることでそれらを計装し、構造化されたタイムラインをターミナルまたはローカルWeb UIにレンダリングします。これは現実の不透明性の問題に対処するものです。現在のコーディングエージェントはファイルの読み書き、シェルコマンド、LLMコールの一連のシーケンスを発行しますが、これらは開発者がログファイルを事後的に掘り起こさない限り、ほとんど不可視のままです。AgentTrailはエージェントの推論トレースを実行途中で観測可能にし、破壊的なアクションが完了する前に中断できるようにします。ローカル専用の設計により、クレデンシャルやセッションデータがマシン外に出ることはなく、エンタープライズ環境において重要な意味を持ちます。技術的な実装としては、各エージェントが公開するツールコールイベントストリーム(Claude CodeのMCPプロトコルイベント、CodexのストリーミングAPIレスポンス)にフックし、どのファイル変更がどの計画ステップに因果関係を持つかの依存グラフを維持します。エージェントの失敗をデバッグする際や、エージェントがどこでコンピュートバジェットを消費しているかの直感を養う上で有用です。

Source: https://github.com/sodiumsun/agenttrail


dondai44423/donsetch

APIキーや外部サービスアカウントを必要とせず、Rustでゼロから書かれたウェブのfetch・検索・クロールライブラリです。DonsetchはHTTPクライアントロジック、HTMLパース、リンク抽出、および検索結果のスクレイピングをネイティブに実装しており、Serper・Bing Search API・Browserlessといったサードパーティサービスに依存せずに信頼性の高いウェブアクセスを必要とするAIエージェントのユースケースをターゲットとしています。Rustによるゼロからの実装により、リクエストの並行性・コネクションプーリング・タイムアウト挙動を細かく制御できます。これらのパラメータは、エージェントが数百ページを並列にクロールする際に非常に重要です。APIキー不要という制約により、検索機能は公開されている検索エンジンの結果ページを直接スクレイピングする形になります。これはレイアウト変更に対して脆弱性をもたらしますが、マネージドAPIが伴う運用上の依存性とクエリごとのコストを排除できます。AGPL v3ライセンスのため、Donsetchを組み込んだ派生エージェントフレームワークは変更部分をオープンソースとして公開する必要があります。本プロジェクトは初期段階にあり、ボット検出対策に対するSERPスクレイピング層の堅牢性と、JavaScriptヘビーなページに対するHTML抽出の完全性が、本番環境への採用における主な未知数となっています。

Source: https://github.com/dondai44423/donsetch