デイリーAIダイジェスト — 2026-07-08
arXiv ハイライト
階層的スパース Attention を正しく実現する：無限コンテキストモデリングへ向けて
問題設定
チャンク単位のスパース attention（BSA スタイル）は、各クエリを K 個の過去チャンクとローカルウィンドウにルーティングし、二乗未満の計算量で長いコンテキストのモデリングを目指します。原理的には、誤ったチャンクが選択された場合にのみ品質が低下します。しかし実際には、これまでのすべての手法がノンパラメトリックな要約（平均プーリングされた key、先頭トークン、固定された特徴量上での学習済みゲーティング）によってチャンクをスコアリングしており、真のチャンク質量
Z_{i,c} = \sum_{j\in\mathcal{T}_c}\exp(\mathbf{q}_i^\top \mathbf{k}_j/\sqrt{d}),
を追跡できていません。そのため、top-K 選択は系統的にずれており、ドメイン内の長さにおける品質が低下し、長さの外挿も破綻します。本論文の中心的主張は、チャンク選択を \log Z_{i,c} の微分可能な LM-loss 駆動の代理問題とすることで、学習長において full attention と同等の品質を回復し、その長さの 64\times 以上への外挿もきれいに実現できるというものです。
手法
HiLS-Attention は Z_{i,c} を、LogSumExp のテイラー線形化から導出された学習済みサロゲート \hat{Z}_{i,c} で置き換えます。命題 3.1 は以下を与えます：
\log\sum_{j\in\mathcal{T}_c}\exp\!\left(\tfrac{\mathbf{q}^\top\mathbf{k}_j}{\sqrt{d}}\right) \approx \tfrac{\mathbf{q}^\top \mathbf{k}'_c}{\sqrt d} + b'_c,
ここで圧縮された key とバイアスは、それぞれ attention で重み付けされた key の和と同じ attention 分布のエントロピーであり、いずれも単一のチャンク内 attention ステップ \mathrm{Attn}(\mathbf{q}'_c,\mathbf{K}_c,\mathbf{K}_c) によって生成されます：
\mathbf{k}'_c = \sum_j p_j \mathbf{k}_j,\quad b'_c = -\sum_j p_j\log p_j,\quad p_j\propto \exp((\mathbf{q}'_c)^\top\mathbf{k}_j/\sqrt d).
バイアス項が本質的な要素です：これは \log S（チャンク内が一様分布であり多くのトークンが質量に寄与する場合）と 0（単一スパイクの場合）の間を補間しており、平均プーリングによる要約が持たない補正を正確に提供します。プロキシクエリ \mathbf{q}'_c は各チャンクに付加されるランドマークトークンとして実装されており、エンド・ツー・エンドで学習されます。
サロゲートスコア \hat{s}_{i,c} = \mathbf{q}_i^\top\mathbf{k}'_c/\sqrt d + b'_c が与えられると、HiLS は top-K チャンク \mathcal{I}_i を選択しますが、それらを単一のフラットな softmax に畳み込む（BSA の式 3 のような）のではなく、attention を階層的に因子分解します。各クエリは取得した各チャンクに独立して attention を行ってチャンクごとの出力 \mathbf{o}_{i,c} を得て、それらを取得スコア自体から導出された重みで融合します。\hat{s}_{i,c} が（softmax の外側のゲートとしてではなく）前向き attention に組み込まれているため、LM loss からの gradient がそれを通って流れ、チャンク選択は full attention から蒸留されるのではなく、ネイティブに学習されます。
コストは (\mathbf{k}'_c, b'_c) の構築にチャンクあたり O(S)、すなわち要約構築全体で O(N)、スパース attention 自体に O(NK S) であり、K を固定すればコンテキスト長に依存しません。
実用上の設計選択
二つの自明でない設計上のポイントが重要です。第一に位置エンコーディング：学習長 8K でバニラ RoPE を使用すると HiLS は full attention より PPL が低下しますが、HoPE（周期が事前学習長以下の RoPE 次元を保持し、それ以外を NoPE とする）に切り替えると順序が逆転します。第二に、dense なチェックポイントを変換するのではなく、最初からネイティブにスパースで学習しており、dense モデルを後付けした際に生じる通常の取得品質の崩壊を回避しています。
実験結果
345M（GPT-2 Medium 構成、学習長 8K、アクティベーションバジェット 2K + スライディングウィンドウ 512）において、HiLS は PPL で full attention と同等以上の性能を達成し、in-context retrieval で BSA の各変種を上回ります。
300B トークンでゼロから学習した 1.4B において、HiLS-Attn/HoPE と Full-Attn/RoPE はコンテキスト長と学習ステップの全体にわたって PPL が追随し、HiLS の attention 対象トークン数は半分以下です。RULER スタイルの NIAH では、HiLS は学習コンテキストの 64\times 以上において \ge 90\% の取得精度を維持する一方、full attention は学習長を超えると急激に低下します。この外挿のギャップは学習全体を通じて安定しており、一時的なアーティファクトではありません。
ダウンストリームタスク（LAMBADA、HellaSwag、PIQA、WinoGrande、OpenBookQA、ARC-e/c）では、HiLS の平均は 49.06 で full attention の 48.65 と比較され、短いコンテキストの品質が保たれています。
推論側では、Triton カーネルを揃えた SGLang を用いて H800 でベンチマークを行い、HiLS のコストは K\times\text{chunk} + W = 2048 + 512 トークンに O(N) の要約構築が加わったものに限定されるため、prefill はほぼ線形に増加し、トークンあたりのデコードは実質的に O(1) です。full attention とのクロスオーバーは約 16K であり、512K では HiLS は prefill で 13.5\times 高速（5.0s 対 67.0s）、デコードの 1 ステップあたりで 15.7\times 高速（5.5ms 対 85.9ms）です。
制限と未解決の問題
線形化は LogSumExp の一次テイラー展開です。チャンク内 attention 分布が強くピークを持ち、そのピークがクエリ間で異なる場合、単一の \mathbf{q}'_c（チャンクあたり 1 つのランドマーク）は固定のプロキシであり、ランドマークとは異なる関連性パターンを持つクエリに対して質量を誤推定する可能性があります。また、K=32、チャンクサイズ 64 のみで評価されており、S、K、実効的な長距離混合の相互作用はスケールで網羅的に検証されていません。学習はゼロからであり、既存の dense チェックポイント（Qwen3、Llama）を品質低下なく変換できるかという、おそらくより重要な問いには取り組まれていません。最後に、「64\times 外挿」は RULER NIAH で測定されており、その取得精度が推論集約的な長コンテキストタスク（long-doc QA、コードリポジトリ、エージェントトレース）に変換されるかどうかはここでは未検証です。
なぜ重要か
HiLS は、チャンク選択スコアが真の LogSumExp チャンク質量の扱いやすいサロゲートであることが証明でき、かつ LM loss によって直接学習されるという初めてのチャンク単位スパース attention であり、1.4B/300B トークンスケールで同等の品質と 13\times 以上の長コンテキスト推論高速化を維持します。既存の dense チェックポイントとの短い継続事前学習による組み合わせが実現すれば、長コンテキスト推論における full attention のドロップイン代替となります。
Source: https://arxiv.org/abs/2607.02980
Nemotron-Labs-Diffusion: Autoregressive・Diffusion・Self-Speculation Decodingを統合したトライモード言語モデル
問題設定
Autoregressive decodingは低並列時にメモリ帯域がボトルネックとなります。一方、masked-diffusion LMは並列トークン生成を可能にしますが、歴史的にARモデルに比べて精度が劣り、左から右への生成への明確な移行経路を欠くことが多いです。これまでのハイブリッドアプローチ（block-diffusion、SDAR、Dream）は学習時にいずれか一方のモードを選択し、そのデプロイ上のトレードオフを引き継いでいます。Nemotron-Labs-Diffusionは、単一の重みセットで両方のモードを損失なく提供できるか、さらに同一モデルがdrafting（diffusion）と検証（AR）を行うself-speculative decodingをサポートできるかを問います。
手法
モデルは以下の結合目的関数で学習されます。
\mathcal{L}(\theta)=\mathcal{L}_{\text{AR}}(\theta)+\alpha\,\mathcal{L}_{\text{diff}}(\theta),\quad \alpha=0.3,
ARの項は標準的な次トークンの尤度です。diffusionの項はブロックごとの吸収diffusionを使用します。具体的には、系列をブロック \{x^b\}_{b=1}^{B} に分割し、1つのブロックをノイズレベル t\sim\mathcal{U}[0,1] で \tilde{x}^b_t\sim q(\cdot\mid x^b) により破損させ、lossは
\mathcal{L}_{\text{diff}}(\theta)=\mathbb{E}\!\left[-\tfrac{1}{t}\sum_{b=1}^{B}\log p_\theta(x^b\mid \tilde{x}^b_t, x^{<b})\right]
となります。1/t の重み付けは標準的なMDLM ELBOの再重み付けです。Attentionはノイズブロック内では双方向、ブロック間では因果的であるため、クリーンなprefixブロックは推論時に再利用可能なKV cacheを保持します。
安定性のために2つの設計上の選択が重要です。第1に、\alpha=0.3 は2つのlossの大きさを均等化するために選ばれています。\alpha が大きいとARが不安定になり、小さいとdiffusionの学習が不十分になります。第2に、学習は2段階で進行します。Ministral3のベース重みを初期値として1Tトークンの純粋なAR学習（\alpha=0）を行い、その後300Bトークンの結合学習を行います。Table 1のアブレーションは顕著です。ブロックごとのattentionを追加するだけで、コーディング・数学ベンチマーク全体の平均は54.23となり、グローバルloss平均化（ランダムノイズレベルにわたる分散削減）、DP-rankの可変mask比、2段階学習、最終的にAR lossの追加により平均は70.28まで向上し、diffusionのみの出発点から+16ポイントの改善を達成します。AR lossの追加だけで+7.48ポイントに貢献しています。
3つの推論モード
同一の重みは次の3モードをサポートします。(1) 因果的maskによるAR decoding、(2) 確信度閾値による並列コミットを用いたブロックごとのdiffusion decoding、(3) self-speculative decodingでは、diffusionモードがブロックをdraftし、ARパスがトークンごとに検証して最長一致prefixを受理します。diffusion drafterをAR verifierの分布に合わせるためにLoRAがオプションで学習されます。二次バリアントはブロック内の全ての可能な受理点について継続生成を事前計算します。
結果
8B instructモデルを、Qwen3-8B、Qwen2.5-7B、Ministral3-8B、LLaDA-8B、Dream-7B、SDAR-8BとGPQA、IFEval、MMLU、HumanEval、MBPP、LCB-CPP、Math500、GSM8K、AIME24/25にわたって比較した結果：
- ARモード：Qwen3-8Bに対して平均精度+0.86%—結合学習はARの質を劣化させず、制御された25Bトークンのアブレーションではdiffusion supervisionの追加がARをわずかに改善しました。
- Diffusionモード：Qwen3-8Bに対して2.57× TPFかつ+0.43%の精度、より高い並列性においてSDAR-8B Chatに対して+9.09%。
- LoRAを用いた線形self-speculation：8Bで5.99× TPFかつ精度はほぼ変わらず（LoRAなしの62.88に対して62.81）。LoRAはTPFを8Bで4.52×から5.99×に、14Bで4.67×から5.96×に向上させます（Table 6）。タスクごとのTPFはdraftの予測可能性が高い数学で最も高く（Math500 7.36×、AIME24 7.44×）、MMLUで最も低い（4.08×）です。
- 二次self-speculation：6.38× TPFですが、FlexAttentionカーネルのオーバーヘッドによりwall-clock時間が長くなるため、デプロイのデフォルトは線形方式です。
アブストラクトの見出し「Qwen3-8Bに対してforwardあたり6×トークン、エンドツーエンドスループットで4×」は線形SS構成に由来しています。
Speed-of-light分析
diffusionモード自体にどれだけの並列化余地があるかを上限評価するため、著者らはシリアルdenoisingによってオラクルターゲット \mathbf{t} を定義します。長さ B の全maskブロックから始め、B ステップの各ステップで最高ピーク確率を持つ単一位置のargmaxをコミットします。任意の並列スキームのSOLは、\mathbf{t} を再現するために必要なTPFとなります。貪欲並列受理は \mathbf{t} のargmaxと一致する全位置をコミットし、再帰的動的コンパクションはコミットが証明可能に安全な（ブロックあたり5000 forwardパスの予算による浅いシミュレーションで検証された）信頼度ランキング最大prefixを二分探索します。
SOL上限は、現在の最良の線形self-speculation戦略と比較してforwardあたり76.5%多くのトークンを示しています。このギャップは、diffusion decodingの2つの構造的優位性に起因します。すなわち、連続しないサブセットをコミットできること、および最初の棄却で打ち切られないことです。
限界と未解決問題
実用的なdiffusionサンプリングはSOL境界にはほど遠く、76.5%のヘッドルームはブロック位置間の条件付き独立性を促進する改善された信頼度推定や学習目的関数なしには実現できません。Self-speculationは依然としてprefixのみのAR検証を使用しており、最初のミスマッチ以降のdraftトークンは後続トークンが正しかったとしても破棄されます。diffusionベースのverifierであればこれらを回収できます。二次SSはアルゴリズムコストではなくattentionカーネルのサポートがボトルネックになっています。最後に、報告された全ての高速化はバッチ1または低並列サービングを前提としており、高並列ではARモードが優先され、その精度の優位性はQwen3-8Bに対する+0.86%のマージンに依存しており、より優れたARベースラインによって縮小する可能性があります。
意義
SOTA ARの精度に匹敵しながら、self-speculationによる4〜6×のスループットモードを提供する単一の重みセットは、diffusion LMにおける「学習時にモードを選ぶ」という従来のトレードオフを解消します。また、SOL分析は将来の並列decoding研究に向けた具体的かつ定量的な目標（76.5%のヘッドルーム）を提供します。
Source: https://arxiv.org/abs/2607.05722
PointDiT: モノキュラー幾何推定のためのピクセル空間 Diffusion
問題設定
単一のRGB画像からのモノキュラー3D再構成は、本質的に不良設定問題です。特に物体境界、細い構造、透明面において、多くの幾何形状が同一ピクセルに投影されます。最近のアプローチは、regression head・不確実性推定器・タスク固有 loss を組み合わせたハイブリッドアーキテクチャか、あるいはポイントマップや深度を潜在空間に射影することで事前学習済みの画像 VAE を再利用する latent diffusion パイプラインのいずれかを採用しています。どちらの選択もオーバーヘッドを伴います。ハイブリッド型は hand-crafted な loss の重み付けを必要とし、latent 型は画像向けに学習されたトークナイザーが幾何を意味のある形で圧縮できるという仮定を置くため、再構成のフロアとぼけを引き起こします。
PointDiT はこのような仕組みが不要であると主張します。凍結された DINOv3 トークンを条件付けとして、生のポイントマップピクセルに直接作用するシンプルな ViT が、latent ベースのシステムと同等以上の性能を発揮しつつ、よりシャープな幾何形状を生成します。
手法
画像 \mathbf{c}\in\mathbb{R}^{H\times W\times 3} が与えられると、モデルは各ピクセルにメトリック値 (X,Y,Z) を格納した密なポイントマップ \mathbf{x}\in\mathbb{R}^{H\times W\times 3} を予測します。学習には rectified flow matching を使用します。\boldsymbol{\epsilon}\sim\mathcal{N}(\mathbf{0},\mathbf{I}) およびクリーンサンプル \mathbf{x} に対して、interpolant は
\mathbf{z}_t = t\cdot\mathbf{x} + (1-t)\cdot\boldsymbol{\epsilon},\quad t\in[0,1],
となり、目標ベクトル場は定数
\mathbf{v}_t = \frac{d\mathbf{z}_t}{dt} = \mathbf{x} - \boldsymbol{\epsilon}
です。ViT v_\theta(\mathbf{z}_t, t, \mathbf{c}) は標準的な flow-matching loss \mathbb{E}_{t,\mathbf{x},\boldsymbol{\epsilon}}\|v_\theta - (\mathbf{x}-\boldsymbol{\epsilon})\|^2 のもとでこの速度場を回帰します。推論は t=0 から t=1 まで学習済み ODE を Euler 積分することで行われます。
本論文の核心となる設計上の選択が2つあります。第一に、diffusion バックボーンはゼロから学習され、生のポイントマップパッチ（パッチ化された H\times W\times 3 テンソル）に直接作用するため、ポイントマップトークナイザー・VAE・潜在デコーダーのいずれも存在しません。これにより、Marigold スタイルのパイプラインなど latent diffusion 深度推定器を制限する再構成ボトルネックが解消されます。第二に、画像条件付けは結合画像エンコーダーではなく凍結された DINOv3 features から得られます。DINOv3 features はドメイン不変性が高いため、幾何デコーダーを合成データのみで学習しながらも自然画像への汎化を実現します。
学習は2段階で行われ、いずれも合成データを使用します。Stage 1 は SceneNet-RGBD（約 536 万 RGB-D ペア）での 256\times 256 事前学習です。Stage 2 は Hypersim、VKITTI2、UrbanSyn、Synscapes、TartanAir、OmniWorldGame、EDEN、IRS、Dynamic Replica、MVSSynth、TartanGround の計 11 データセットの混合データ（約 622 万サンプル）で 512\times 512 の fine-tuning を行います。深度は既知の内部パラメータを用いてポイントマップに変換されます。著者らは合成データのみを使用する根拠として2点を挙げています。シャープな幾何分布を学習するにはピクセル単位の精密な ground truth が不可欠であること、そして DINOv3 条件付けが外観のギャップを吸収することです。
結果
サンプリング挙動はピクセル空間 diffusion の強みを示しています。ODE 1ステップだけで既に先行研究を上回り、ステップ数を増やすことで単なるノイズ除去にとどまらず細かい構造がシャープになります。
定性的には、細い構造（椅子のスポーク、ワイヤー）を復元し、測光的手がかりが曖昧な透明物体を再構成し、潜在空間で深度を予測するベースラインよりもシーン全体にわたる相対スケールをより正確に保持します。
透明物体のケースは最も興味深いものです。latent-VAE アプローチは RGB テクスチャが示す不透明な表面を hallucinate しがちですが、ピクセル空間 diffusion は幾何に関する事後分布の多峰性をモデル化できるようです。これはおそらく v_\theta が単一の点推定を回帰するのではなく、確率的な軌跡に沿って補間するよう学習されているためと考えられます。
限界と未解決の問題
本論文はアーキテクチャのミニマリズムについての主張に多くのスペースを割いていますが、提供されている抄録および各セクションは完全な定量比較表に及ばず、Marigold・GeoWizard・DepthAnythingV2・MoGe・VGGT との直接比較数値がなければ「複雑な latent ベース diffusion モデルを上回る」という主張を裏付けることはできません。その他にもいくつかの未解決の問題が残っています。
- メトリックスケールの汎化。 学習は 100% 合成データです。テスト時に任意の内部パラメータへのポイントマップの転移がどの程度うまくいくか、またモデルが暗黙的に正準焦点距離を仮定しているかどうかは本稿では議論されていません。
- サンプリングコスト。 生のポイントマップパッチに対して 512\times 512 でのマルチステップ diffusion は、feedforward regressor に比べて大幅にコストが高くなります。1ステップの設定は競争力がありますが、Figure 3 で示されているディテール向上の恩恵を犠牲にします。
- 凍結された DINOv3 は条件付けエンコーダーの設計空間における一点にすぎません。SigLIP や CLIP トークンでも同等の結果が得られるか、また性能のどの程度が DINOv3 の幾何認識的な features に起因するかについて、抄録内では ablation が行われていません。
- 実データでの fine-tuning の報告がないため、ドメイン非依存性の主張は定性的なサンプルに依存しています。
なぜこれが重要か
VAE・トークナイザー・タスク固有の loss スタックなしに、flow matching と凍結 DINOv3 条件付けのみで生のポイントマップピクセルに対してゼロから学習されたシンプルな ViT が、ハイブリッドおよび latent-diffusion 3D 再構成器と匹敵できるならば、最近のモノキュラー幾何研究における多くのアーキテクチャの複雑さは本質的なものではなく付随的なものということになります。この結果はより広いパターンをも裏付けています。構造化された連続出力に対しては、強力な self-supervised 条件付けを用いたピクセル空間 diffusion が、画像ドメインの潜在空間を再利用することへの有力な代替手段であるという点です。
Source: https://arxiv.org/abs/2607.02515
Flex-Forcing: 統合型自己回帰・双方向ビデオ拡散モデルに向けて
問題設定
ビデオ拡散モデルは、互いに互換性のない2つの推論レジームのもとで動作します。双方向拡散（例：Wan2.1）はクリップ全体を同時にデノイズするため、グローバルな整合性は高いものの、全latentを各ステップで保持する必要があり、ストリーミングが不可能で、長さのスケーリングにも難があります。Self-Forcingのような自己回帰/因果的な変種は、KV cachingを用いてフレームチャンクを左から右に生成することでストリーミングを実現しますが、exposure biasが生じ、長い時間軸にわたってdriftが発生します。既存の学習パイプラインはどちらか一方のレジームに固定されています。本論文が問うのは、チャンクの粒度——時間軸とデノイジングステップ軸の両方にわたって——がランタイム時のパラメータとなるよう、単一のモデルを学習できるかどうかという点です。これにより、同一の重みが両方の極端なケース、あるいはそのどのような中間状態としても機能できるようになります。
手法
この構成は、双方向のベースモデル（Wan2.1-T2V-1.3B）に対するpost-trainingの手続きであり、直交する2つの軸にわたるフレキシブルなチャンキングを導入します。
- フレーム軸：T latentフレームからなるビデオを、異なるサイズ |C_k| のチャンク \{C_1,\dots,C_K\} に分割します。チャンク k のデノイジングは、C_{<k} のクリーンな（またはあるノイズレベルにある）コンテンツを条件とし、チャンク内のattentionは双方向です。
- タイムステップ軸：分割自体がデノイジングステップ t の関数となります。初期（高ノイズ）ステップではグローバルな双方向attentionに近い粗いチャンキングを使用し、後半のステップではAR生成に近いより細かいチャンクを使用できます。K=1 とすれば純粋な双方向拡散に、|C_k|=1 とすればフレームごとのARに帰着します。
attentionレイヤは、因果的・非因果的な混合演算子となるよう修正されています。現在のデノイジングウィンドウ内では、トークンは互いに双方向にattendします。KV cacheに格納された過去のクリーンな（既生成の）フレームへのattendには、キャッシュされたキーに対してタイムステップ依存K-projection W_K(t) を適用します。これは、キャッシュされたキーが当該フレーム自身がノイズレベル t' にあったときに生成されたものであり、静的なprojectionでは「クリーンなコンテキスト」と「ノイズのあるコンテキスト」トークンの間で学習・推論時のミスマッチが生じるためです。学習された W_K(t) は、ステップ t におけるクエリ分布に合わせてクリーンなcacheトークンを効果的に再エンコードし、2つのレジームを1つのself-attentionのもとで統合します。
学習では、チャンク構成 (\{|C_k|\}, t) を確率的にサンプリングするため、モデルは厳密な左から右への因果的スケジュールではなく、任意の順序・任意のタイムステップのデノイジング軌跡を含む、あらゆる分割を処理できなければなりません。
結果
VBenchで評価された5秒・832×432の生成において、4デノイジングステップのFlex-Forcingはtotal 85.13 / quality 86.50 / semantic 79.65を達成し、DMD-v（84.60/86.03/79.87）、rCM（84.43/85.38/80.63）、および100ステップのWan2.1教師モデル（84.26/85.30/80.09）を上回りました。2ステップでもtotal 84.20を維持し、rCM-2（84.09）およびDMD-v-2（84.39）と競争力のある結果を示しています。GB200上での81フレーム生成の効率は24.96 FPSに達し、Self-Forcingの19.10およびInfinity-RoPEを上回ります。
5秒クリップ（21 latentフレーム、3チャンク、全有効分割をブルートフォースで探索）に対するチャンク構成のスイープから、3つの実証的な知見が得られました。
- 均一なチャンキングは最適ではない。
- 同じexposure round数を持つ2つの分割でも品質に大きな差があり、exposure biasだけではARの劣化を説明できない。
- 前方重点型の分割（初期に大きなチャンク、後期に小さなチャンク）が最良であり、純粋な双方向推論を上回ることもある。これは、グローバルな構造が初期フレームによって決定される一方、後期フレームは主に動きを拡張するという解釈と整合的です。
より難しい「短い動画で学習・長い動画で評価」設定であるVBench-Longの30秒評価において、Flex-Forcingはtotal 84.01を記録し、Self-Forcing 81.49およびInfinity-RoPE 82.84を上回りました。一方、（実際に長い動画で学習されている）LongLiveは82.80に達しています。Dynamic Degreeは71.27に急伸し（Self-Forcing：41.93、+21.01）、Human Actionは0.98上昇して63.31、Motion Smoothnessはわずかに上昇して98.70となりました。トレードオフとして、Imaging Qualityは3.06低下して66.24に、Multiple Objectsは4.37低下しており、フレーム単位の忠実度と構成的な結合にある程度のコストを払うことで動きのリッチさを得ていることが示唆されます。
限界と未解決の問題
- 最適なチャンク構成はブルートフォースの列挙によって探索されており、学習ベースまたは解析的なスケジューラは提案されていません。また、探索空間はクリップ長に対して組み合わせ爆発的に増大します。
- 「短い動画で学習・長い動画で評価」のレジームでは、30秒における画像品質と複数オブジェクトの構成に依然として劣化が見られ、driftは低減されたものの解消はされていません。
- タイムステップ依存K-projectionはクリーンcacheのパスにのみ導入されており、VやQにもタイムステップ条件付けが必要かどうか、また長いコンテキストにわたるrotary position schemeとの相互作用については分析されていません。
- 結果はすべて5〜30秒の1.3Bバックボーンに基づくものであり、より大きなモデルサイズや分単位の動画に対する混合attention演算子のスケーリング挙動は検証されていません。
- K-projectionの寄与と確率的チャンク学習自体の寄与を分離するablationが行われていません。
重要性
Flex-Forcingは、ビデオ拡散におけるARと双方向の二分法が、アーキテクチャ上の制約ではなく学習上の人工的産物であることを示しています。すなわち、キャッシュされたトークンに対してタイムステップ条件付けのkey projectionを持つ単一のself-attentionが、両方のレジームをカバーでき、品質とレイテンシのランタイム時の調整ダイヤルを提供します。前方重点型のチャンキングが均一なARを上回るという知見が一般化するならば、「フレームごとに因果的」という帰納バイアスがビデオにとって誤った仮定であり、チャンクスケジューリングがノイズスケジューリングと同等の注目に値することを示唆しています。
Source: https://arxiv.org/abs/2607.03509
RynnWorld-4D: ロボット操作のための4D Embodied World Models
問題設定
操作タスク向けのビデオworld modelは、一般に将来のRGBピクセルを予測します。ピクセル空間での予測では、エンドエフェクタの動作を実際に決定する幾何情報や運動情報をポリシーが再推定する必要があります。RynnWorld-4Dは、物理的に根拠のある表現——同期されたRGB、単眼深度 D、密な optical flow F を同時に扱うRGB-DFと表記——が4Dダイナミクス（3D構造とその時間的変化）を直接捉えることで、world predictとactionの間の表現的ギャップを縮小できると主張しています。この joint predictionから、深度をunprojectionしflowでwarpすることにより、3Dシーンフローへと持ち上げることが可能です。
データ: Rynn4DDataset 1.0
RGB/深度/flowとinstructionがペアになった大規模なコーパスは存在しません。著者らは7つのソースに疑似ラベルを付与することで2億5440万フレームをキュレーションしています——Epic-KitchensとEgoVid（一人称視点の人間映像）、ならびにRoboMIND、RDT-1B、Galaxea、RoboCoin、AgiBot（ロボット操作映像）です。キャプションはQwen3-VLを用いて1 FPSで5秒セグメント（最大512トークン、T=0.7）から生成され、深度はDepth Anything 3（DA3NESTED-GIANT-LARGE-1.1、30 FPS、短辺392、[0.0, 5.0] mにクリッピング）から、flowはDPFlowによってネイティブ解像度でカラーエンコードされ25 FPSで取得されます。
この混合は意図的なものです。人間の一人称映像は広範な物体インタラクションの事前知識を供給し、ロボットデータセットはポリシーが実際に直面する実行分布を供給します。
手法
バックボーンはWan 2.2-TI2V-5Bであり、d=3072、FFN幅14,336の30層DiTです。単一のRGBブランチがtri-branchアーキテクチャに拡張され、RGB、深度、flowそれぞれに独自のpatch embedding、self-attention、norm、FFNが割り当てられます。深度とflowのブランチは、事前学習済みRGBの重みを複製することで初期化されます——これは、再学習に膨大な計算コストを要するような時空間の事前知識を継承する低コストな方法です。言語条件付けはモダリティに依存しないため、テキストのcross-attention K/Vプロジェクションは3ブランチで共有されます。
クロスモーダルの結合は、3ブロックごとに挿入されるJoint Cross-Modal Attention（JA）モジュール（層0、3、…、27；合計10モジュール）によって行われます。各モダリティ m に対して、JAは他のモダリティ j\neq m から連結されたK/Vにアテンションを適用します：
\hat{\bm{z}}_l^m = \bm{z}_l^m + \tanh(g_l^m)\cdot \operatorname{CrossBranchAttn}(\bm{Q}_l^m, \bm{K}_l^{\text{cross}}, \bm{V}_l^{\text{cross}}).
スカラーゲート g_l^m は学習可能で1に初期化され、出力プロジェクションはゼロ初期化されているため、ネットワークは3つの独立したブランチからスムーズに離脱することができます。JAは3D RoPEとフレーム単位のマスクを使用し、同一の時刻フレームのトークンにのみアテンションを制限します——これは時刻 t における外観、深度、運動が相互に整合していなければならないという帰納バイアスであり、クロスブランチパスウェイにおける時間的なアテンションは不要です（時間的な混合は各ブランチのself-attention内に留まります）。
学習はステージごとにオプティマイザをリセットする3段階のカリキュラムで構成され、AdamW（\beta_1=0.9、\beta_2=0.95、weight decay 10^{-4}）、linear warmup付きcosineスケジュール、decay 0.9999のEMAが用いられます。
RynnWorld-4D-Policyはその上層に構築されており、予測されたRGB-DFシーケンスを4D表現として活用し、そこからエンドエフェクタのアクションを回帰します。これにより、ポリシーは生のピクセルではなく幾何情報と運動情報を入力として受け取ります。
実験
生成品質はPAI-Benchメトリクスで評価されます：Imaging Quality（MUSIQ/SPAQ）、Motion Smoothness（AMT-S補間残差）、Subject ConsistencyおよびI2V-Subject（DINO ViT-B/16コサイン類似度）、ならびにグラウンドトゥルースに対するPSNR/SSIM/LPIPSです。ベースラインはFree4D（DUSt3R深度を用いたシーンごとの4DGS最適化、10kイテレーション、HexPlane変形）、4DNeX（Wan2.1-I2V-14B + LoRA rank 64、scale 0.5、49フレーム、24 fps、50ステップ、CFG 5.0）、TesserAct（CogVideoX-5B-I2V、9チャネルRGB/深度/normal入力、640×480、50 DDPMステップ、guidance 7.5 / image guidance 1.5）です。
定性的には、本モデルはRGBテクスチャと境界が一致する幾何形状を生成し、接触領域に支持が揃った運動を生成しています——これは、JAが3つの独立した生成プロセスではなくフレーム単位のクロスモーダル整合性を強制しているという証左です。時間的安定性も維持されており、操作クリップ全体を通じてフリッカーや構造的な変形は見られません。
実物ロボットプラットフォームは、TIANJI M6 7自由度アームと20自由度WUJIハンドを組み合わせたもの（デュアルアームセットアップ：合計54 DoF）です。遠隔操作にはHTC Viveトラッカー（オペレータ1人あたり5個：胸部・手首・上腕）を使用し、100〜120 HzでPinocchio IKソルバーに入力して、Ruckigによる平滑化を施します。WUJIハンドはManusグローブのデータから21点のMediaPipeスケルトンリターゲティングを介して駆動されます。ポリシー推論は18〜30 msのコマンド遅延で50 Hzで動作し、低レベルループはLCM上で500 Hzで動作します。
限界とオープンクエスチョン
提供されたセクションには、Free4D/4DNeX/TesserActとの対比数値テーブルや実機ロボットの成功率は含まれていないため、RGB-DFの優位性の大きさはここでは定量化されていません。3つの補助モダリティはすべて疑似ラベルです。深度は [0, 5] mに制限され、flowはDPFlowで推定されるため、world modelの性能上限はこれらのアノテータに依存します（特に単眼深度が劣化する透明・鏡面反射面において）。フレーム単位のJAマスクはクロスモーダルな時間的アテンションを禁止しており、長期的な結合に悪影響を与える可能性があります——例えば、時刻 t のflowが時刻 t+k の深度を制約するケースなどです。最後に、推論時に3Dシーンフローへ持ち上げるには深度とflowのスケールが整合している必要がありますが、これは幾何的なlossによって明示的に強制されていません。
重要性
深度とflowをピクセルと jointly に予測することは、world modelの出力空間を操作ポリシーが実際に必要とする幾何量に整合させ、ポリシーがRGBから3D構造を再導出する負担を軽減します。2億5400万フレームの人間+ロボットハイブリッドコーパスと組み合わせることで、これはpixel-onlyのビデオ生成を超えてembodied world modelsをスケールアップするための具体的なレシピとなっています。
Source: https://arxiv.org/abs/2607.06559
RynnWorld-Teleop: デジタル遠隔操作のためのAction-Conditioned World Model
問題設定
巧みな操作のための模倣学習データセットは、物理的な遠隔操作によってボトルネックが生じています。すべてのデモンストレーションは、特定のロボットと特定のワークスペースにおいてオペレーターの時間を消費するため、スループットはオペレーター稼働時間 × ハードウェアの可用性でスケールします。著者らはデジタル遠隔操作を提案しています。これは、物理的なロボットを生成型 world model に置き換えるもので、リアルタイムの手姿勢ストリームを入力として受け取り、ロボットが撮影したであろう一人称視点の映像を合成しながら、リターゲティングされた関節軌道をアクションラベルとして提供します。生成された映像が十分に忠実であり、リターゲティングが embodiment に依存しないものであれば、1人のオペレーターが事実上カメラもハードウェアもコストなしにペアデータ (v_{1:T}, a_{1:T}) の軌道を生成できます。
手法
RynnWorld-Teleop は Wan2.2-TI2V-5B（3D VAE \mathcal{E} とデノイザー \mathcal{F}_\Theta を備えた video Diffusion Transformer）上に構築されています。参照画像 I_{ref} と手姿勢シーケンス \mathcal{P} = \{p_1,\dots,p_T\} が与えられると、モデルは条件付き flow matching によって V=\{v_1,\dots,v_T\} を生成します。
z_t = (1-t)z_0 + t\epsilon, \quad \mathcal{L}_{\text{CFM}} = \mathbb{E}\left[\|v_\Theta(z_t, t, z_{ref}, c) - (\epsilon - z_0)\|_2^2\right]
ここで z_0 = \mathcal{E}(I_V)、z_{ref} = \mathcal{E}(I_{ref})、c はエンコードされたコントロール latent です。
Depth-aware skeletal conditioning。 SAM由来のマスク（Mask2IV、CosHand、InterDyn で用いられているもの）を使用する代わりに、姿勢を2Dスケルトンとしてレンダリングします。ここで関節の色とマーカーサイズは深度によって変調されており、2Dコントロール画像に3Dの手がかりを注入します。
スケルトン映像は VAE を通過し、distribution-aligned patch-embedding branch を介して DiT に融合されます。これはノイジーな latent の patch embedder と並列に加算されるため、事前学習済みの backbone の重みが保持されます。
2段階の段階的学習。 Stage 1 では、手による動画からコンタクトと物体のダイナミクスを学習するために、大規模な一人称視点の人間の操作データ（EgoDex スタイル）で事前学習を行います。Stage 2 では、embodiment のギャップを埋めるために、1,800 件のペアになった人間-ロボットエピソードを使って WUJI 巧みハンドへの適応を行います。LoRA（rank 64）とフルパラメーター SFT の両方のバリアントが学習されます。SFT では EMA（decay 0.999）、200 ステップのウォームアップ、学習率 2\times10^{-5}（Stage 1）および 1\times10^{-5}（Stage 2）を使用します。64台の H100 で 2,000 ステップの TI2V 事前ウォームアップを行い、ベースモデルをターゲットとなる照明・物体に合わせます。
ストリーミング自己回帰 distillation。 双方向の teacher を causal な student へ distill します。まず学習率 1\times10^{-5} で causal flow-matching warmup を行い、次に generator 学習率 2\times10^{-6}、critic 学習率 5\times10^{-7} で Distribution Matching Distillation（DMD）を実施します。ストリーミングロールアウトスケジュールと組み合わせることで、単一 H100 上で >40 FPS のシングルパス推論に生成を圧縮します。
チャンク型再アンカリング。 長期ロールアウトではドリフトが生じます。システムは 81 フレームのチャンクで生成し、最初のチャンクは実際の開始フレームからシードされ、後続の各チャンクはそのタイムステップにおける実際のロボットカメラフレームを新たな I_{ref} として使用します。これにより、物体の姿勢と照明が定期的に再グラウンディングされます。
リターゲティング。 5台の HTC Vive トラッカー（胸部、両手首、両上腕）がキャリブレーション済みの変換チェーンに入力されます。
\mathbf{T}_{\text{target}} = \mathbf{T}_{\text{base}} \cdot \text{Scale}(\mathbf{T}_{\text{chest}}^{-1}\cdot\mathbf{T}_{\text{wrist}}) \cdot \mathbf{T}_{\text{ee}}
オペレーターのワークスペースをロボットのワークスペースにマッピングするために平行移動スケーリング s=1.5 を使用します。IK は SVD による適応ダンピング \lambda = \lambda_{\min} + 0.01/(1+\sigma_{\max}) を用いたダンプ付き最小二乗法を使用し、上腕トラッカーから導出された null-space 肩部事前分布が重み w=0.5 で注入されます。
\Delta\mathbf{q} \leftarrow \mathbf{J}^{\#}_\lambda \mathbf{e} + (\mathbf{I} - \mathbf{J}^{\#}_\lambda \mathbf{J})\, w\,(\mathbf{q}^{\text{ref}} - \mathbf{q})
Manus グローブは 21 点の MediaPipe スケルトンに変換され、20-DoF WUJI ハンドへリターゲティングされます。結果として得られる 54 次元のアクションベクトル（デュアル 7-DoF アーム + デュアル 20-DoF ハンド）は、16 FPS で生成映像とフレーム単位で同期されます。
結果
本論文は、EgoDex スタイルのベンチマークにおいて Mask2IV、CosHand、InterDyn に対する定性的な優位性を報告しています。マスクベースのベースライン（フレームごとに SAM2 マスクが必要）はテクスチャのちらつきと指の関節動作の不正確さを示す一方、depth-aware スケルトンは両手操作シーンで安定した指-物体接触を実現します。WUJI ターゲットロボットでは、蓋の配置や両手持ち上げを含むタスクにおいて、生成映像が環境の反射と巧みな接触ダイナミクスを保持しています。実ロボットの推論は 50 Hz で動作し、コマンドレイテンシは 18〜30 ms です。低レベル制御は LCM を介して 500 Hz で行われます。1台の H100 上での >40 FPS のインタラクティブ生成により、world model 自体がオペレーター向けの「ロボット」となっています。アブストラクトでは、RynnWorld-Teleop データのみで学習されたポリシーが物理的な WUJI 環境に転移することが述べられています（引用文は最終的な模倣学習の数値の前で切れています）。
限界と未解決の問題
シーンの視覚的な仕様は単一の参照画像であるため、シーンレベルの状態（遮蔽された物体、質量、摩擦）は暗黙的かつ非物理的であり、運動量の保存や把持の安定性を保証する接触シミュレーターは存在しません。学習パイプラインにおけるチャンク型再アンカリングは 81 フレームごとに実際のロボットフレームを必要とするため、オペレーターの時間ではないものの、データキュレーション中は物理的なロールアウトへの依存が再導入されます。再アンカリングに合成フレームのみを使用した場合に品質がどの程度劣化するかは不明です。新規シーンへの汎化はユーザーが提供または編集した I_{ref} に依存しますが、分布外の参照画像がどこまで許容されてもダイナミクスが破綻しないかは本論文では定量化されていません。16 FPS のコントロールレートは反応的なタスクには低すぎます。最後に、DMD distill された diffusion はサンプルの多様性を犠牲にすることが知られており、分布シフト下での下流ポリシーの頑健性への影響はここでは分析されていません。
なぜ重要か
デジタル遠隔操作は、ロボットデータ収集を生成モデリングの問題として再定式化します。world model が観測ストリームを合成でき、リターゲターがアクションラベルを生成できるならば、データセットサイズはハードウェアの台数から切り離されます。RynnWorld-Teleop は、distill された video DiT がオペレーター利用可能なフレームレートでこのループをリアルタイムに閉じられることの具体的な実証です。
Source: https://arxiv.org/abs/2607.06558
オムニモーダル密密動画キャプショニングのための並列化自己回帰デコーディング
密動画キャプショニング（DVC）は、タイムライン上のイベントを同時に局所化し、各イベントに対して自然言語の説明を生成することを必要とします。標準的なオムニモーダル動画LLMは、K個のイベントにわたる[start, end, caption]トリプレットの長く構造化されたシーケンス全体を、単一の自己回帰ストリームとして扱います。動画の長さとイベント密度が増大するにつれ、デコーディングコストは出力トークン数に対して線形にスケールし、増大するサフィックス上の長距離 attention はスループットとグラウンディング精度の両方を低下させます。本論文は、イベント間トークンに課される逐次的な依存関係は大部分が人為的なものであると主張します。時間的に離散したイベントは弱い意味的結合しか持たないため、それらのトークンは損失なしに並列デコードできます。
因果グラフの再構成
ベースモデルはVideo-SALMONN 2+（3B）であり、Qwen2.5-VLを視覚エンコーダ/デコーダとして、Whisper-Large-v3とウィンドウレベルQ-Formerを音声処理に使用します。動画と音声はT個の同期セグメントC_t = [Z_v^t, Z_a^t]に分割され、命令 embedding F_Qと連結されてプレフィックスPを形成します。通常のオムニLLMは以下のようにサンプリングします。
L_i \sim \mathbb{P}(L_i \mid P, L_{<i}).
PadCaptionerはこれを二層分解で置き換えます。単一イベントキャプション内のトークンは逐次デコードを維持し（局所的な統語的・意味的一貫性を保持）、一方で異なるイベントに属するトークンはイベントストリーム間で並列デコードされます。
機械的な構成（図2）は次の通りです。(1) モデルがイベント数Kを推論し、K個の並列デコーディングレーンを割り当てる潜在的グローバルプランニング段階、(2) クロスレーンの情報漏洩を防ぎながらプレフィックスPを共有するブロック対角 attention パターンによるレーン間並列自己回帰生成。レーンk内では、トークンはPおよび同一レーン内の前トークンにのみ attention します。レーン間では、トークンはPとグローバルプランを条件として独立です。
具体的には、これは再構成されたシーケンスに対して、因果行列のイベント間エントリをゼロにしつつイベント内因果関係を保持する attention マスクによって実装されます。学習は再構成されたシーケンスに対する標準的なトークンレベルのクロスエントロピーを使用するため、モデルはプランニング動作とレーンローカル生成を同時に学習します。LoRA fine-tuning は0.5 FPS・最大256フレームで18KのChronusAV動画に対して1エポック適用されます。
図3の attention 比較は、なぜこれが著者らの意味での「損失なし」であるかを明確にします。除去された依存関係は、ベースモデル自身の attention 重みが弱いと判断するもの（共有プレフィックスのみを介して attention するイベント間トークン）に相当します。この主張は証明可能なものではなく実証的なものです——精度が低下しないこと、実際には向上することが要件ですが、これは並列構造が学習中にクロスイベント干渉に対する帰納バイアスとしても機能するためです。
定量的結果
LongVALEにおいて、PadCaptioner（3B）はF1 56.4、Sim 58.5、SODA_c 6.4、CIDEr 13.7、METEOR 8.6を達成しており、これは従来のSTATEであるChronusOmni（7B）の49.7 / 52.4 / 3.7 / 5.6 / 5.2を上回ります。すなわち、パラメータ数が半分以下でありながら、F1で+6.7、CIDErで約2.4\timesの改善です。ChronusAVでは、PadCaptionerはF1 63.2、Sim 40.0、SODA_c 12.4、CIDEr 9.6、METEOR 12.4を記録しており、ChronusOmniの60.1 / 36.8 / 8.6 / 2.9 / 7.6と比較して、特にCIDErの差（9.6 vs 2.9）が大きく、正解キャプションに対する語彙的忠実度が大幅に優れていることを示唆しています。予算を削減したPadCaptioner^{-}（12K動画で学習）でさえ、両ベンチマークの全メトリクスでChronusOmniを上回ります（例：LongVALE F1 53.0 vs 49.7、CIDEr 12.3 vs 5.6）。10倍大きなモデルであるQwen3-Omni（30B-A3B）に対しても、PadCaptionerはLongVALEで22.2 F1、ChronusAVで11.4 F1のリードを示しています。
効率性に関する主張（図1右パネル）は、LongVALEにおいてChronusOmniと比較して、グラウンドされたキャプショニング精度とデコーディングレイテンシの両方で同時にPareto改善を示しています。本論文の効率性に関する核心的な主張は、K個の並列レーンとレーンあたりの長さ\ellにおいて、共有プレフィックス上の attention オーバーヘッドを除いて、ウォールクロックデコーディングがO(K\ell)ではなくO(\ell)でスケールするというものです。
制限事項と未解決の問題
「損失なし」というフレーミングは、イベント間トークンがPとプランを条件として条件付き独立であるという仮定に基づいています。これは、物語的に連続した動画（例：ステップ間に強い参照連鎖を持つ料理のインストラクション動画）では成立しない可能性が高いです。報告されているYouCook2の結果については言及されていますが、その文脈での数値は本抄録には示されておらず、そのようなケースを検証するものとなるでしょう。プランニングメカニズムは推論時にKを選択しますが、Kの予測が誤った場合（異なるイベントの融合や一つのイベントの分割）の失敗モードはここでは定量化されていません。評価は単一の3Bベースモデルに限定されており、ベースLLMのクロスモーダルグラウンディングが弱い場合に再構成が有効かどうかは未解決です。最後に、スループットの改善はChronusOmniとの比較のみで示されており、効率性主張の自然なベースラインである汎用のspeculative decodingやmedusaスタイルの並列ヘッドとの比較は行われていません。
なぜこれが重要か
DVCは、長く構造化された出力とトークン単位のARデコーディングとのミスマッチによってスループットが制約されてきました。DVC出力がすでに持つイベントレベルのブロック構造を活用することで、PadCaptionerは控えめな attention マスクの変更と targeted fine-tuning によって精度とレイテンシの両方を改善できることを示しています。これはまれなPareto改善であり、構造化生成タスクの意味的依存関係構造に合わせた因果グラフの再構成というより広いパターンを指し示しています。
Source: https://arxiv.org/abs/2607.02963
Hacker News Signals
AI meets Cryptography 1: AIがCloudflareのCirclに発見したもの
Source: https://blog.zksecurity.xyz/posts/circl-bugs/
ZKSecurityはLLMを活用したコードレビューによってCloudflareの暗号ライブラリCircl（Go）を監査し、人間のレビュアーが見逃していた2つのバグを発見しました。この投稿は、AIツールが暗号監査に実質的に貢献できるかどうかを検証するシリーズの第1弾です。
1つ目のバグは、P-256の定数時間スカラー乗算における timing side-channel です。中間値に対する分岐がスカラーに関する情報を漏洩させており、定数時間の契約に違反しています。2つ目は、BLS12-381の体演算におけるMontgomery reductionの微妙な誤用です。具体的には、特定のキャリー条件下で最終的な条件付き減算がスキップされ、未簡約の出力が生成されて上位レベルの演算に誤って伝播するケースです。
このワークフローは単に「GPTにバグを探させる」というものではありませんでした。著者らは構造化されたプロンプト戦略を採用しました。すなわち、各関数が維持すべき具体的な不変条件（定数時間実行、体要素の境界）をモデルに与え、各コードパスがそれらの不変条件を保持しているかどうかを推論させたのです。この制約指向のアプローチは、オープンエンドなレビューとは本質的に異なり、無関係な出力を減らすことができました。
どちらのバグもすぐに壊滅的な形で悪用できるわけではありません。timing leakにはside-channel oracleが必要であり、Montgomeryのバグには特定の体要素値を構築する必要があります。しかし両者は実在のバグであり、Cloudflareに報告済みです。CirclはTLS 1.3、HPKE、およびpost-quantum KEM実装で広く使用されているため、正確性は重要です。
技術的に興味深いのは、不変条件指向のプロンプティングを半形式的な手法として位置づけている点です。モデルは正当性を証明しているのではなく、人間が指定した事後条件に誘導されながら対象を絞った不変条件チェックを行っています。これはfuzzing（意味論的なモデルなし）と形式検証（完全な証明義務）の中間に位置し、仕様は存在するものの完全な検証が現実的でないライブラリに対してはコスト効率が良い可能性があります。
未解決の問題として、大規模な偽陽性率があります。この投稿では、モデルが指摘した候補バグのうち問題なしと判明したものが何件あったかは報告されていません。
Ternlight – ブラウザ上で動作する7 MBのEmbeddingモデル（WASM）
Source: https://ternlight-demo.vercel.app/
Ternlightは、WebAssemblyにコンパイルされたセマンティックembeddingモデルであり、総ペイロード約7 MBで完全にクライアントサイドで動作します。デモでは、クエリとコーパスをブラウザ内でembedし、サーバーへのラウンドトリップなしに最近傍探索を実行します。
このサイズ制約は、いくつかのアーキテクチャ上の選択の組み合わせによって実現されています。このモデルは三値重み量子化（weights \in \{-1, 0, +1\}）を使用しており、これはBitNetおよび関連研究で検討された量子化スキームと同じものです。三値重みを用いることで、行列ベクトル積は加算と減算のみに帰着し、乗算を完全に排除できます。これはWASMのパフォーマンスにとって重要であり、WASMのSIMDサポート（128ビット）はネイティブのAVX-512パスと比較して限られているためです。その結果、モデルは初回ロード後にブラウザによってキャッシュできるほど小さくなっています。
アーキテクチャは浅いtransformer encoder（モデルカードがなく詳細は乏しい）であり、固定サイズの文のembeddingを生成します。推論はONNX Runtime WebやTensorFlow.jsではなく、カスタムWASMランタイムによって処理されており、これらは通常より重いランタイムオーバーヘッドを伴います。
embeddingの品質については、標準的な検索ベンチマーク（MTEBのサブセット）においてMiniLM-L6と同等あるいはそれに近い性能を発揮するとされていますが、これらの数値の独立した検証はまだ行われていません。INT8のMiniLM-L6は約22 MBであるため、同等の品質で3倍のサイズ削減が実現されるとすれば、それは非自明な成果です。
実用的なユースケースとしては、クライアントサイドのセマンティック検索、デフォルトでプライベートな検索（embeddingがデバイスの外に出ない）、およびオフライン対応アプリケーションが挙げられます。すべてのデータがローカルに留まるという制約が、APIベースのembeddingサービスとの主な差別化要因です。
制限事項：コンテキストウィンドウは短く（おそらく128または256トークン）、fine-tuningなしではドメイン固有のテキストで品質が低下し、三値量子化は細粒度のセマンティックな識別を要するタスクでリコールを損なう傾向があります。また、WASMのスレッドモデルは、ほとんどのブラウザで並列処理を制限します。
GitLost: GitHub の AI エージェントをだましてプライベートリポジトリを漏洩させた方法
Source: https://noma.security/blog/gitlost-how-we-tricked-githubs-ai-agent-into-leaking-private-repos/
Noma Security は、GitHub Copilot の agentic 機能（特に「Workspace」と issue 要約機能）に対するprompt injection 攻撃を実証しました。この攻撃により、エージェントは認証済みユーザーがアクセス可能なプライベートリポジトリのコンテンツを外部へ漏洩させました。
攻撃ベクターは典型的な間接的 prompt injection です。悪意ある指示が攻撃者の管理するコンテンツ（公開 issue、README、または PR の説明文）に埋め込まれており、エージェントがそれをコンテキストの一部として読み込みます。エージェントがこのコンテンツを処理すると、注入された指示が本来の動作を上書きまたは拡張します。実証されたエクスプロイトでは、ペイロードがエージェントにアクセス可能なプライベートリポジトリを列挙させ、特定ファイルを読み込ませ、出力を攻撃者が管理する URL としてエンコードさせました。これは実質的に、被害者のエージェントセッションによってトリガーされる DNS/HTTP 経由の情報漏洩チャネルです。
ここでの技術的な本質は、LLM ベースのエージェントにおけるコンテンツと命令の分離の欠如です。モデルは、信頼されたシステム命令と信頼されていないユーザー／リポジトリコンテンツの両方を含む線形化されたコンテキストを受け取ります。コンテンツの出所を識別するロバストなサンドボックス機構や独立したパース層がなければ、モデルは「処理すべきデータ」と「従うべき命令」を確実に区別できません。Retrieval-augmented なエージェントはサードパーティのコンテンツを積極的に取り込むため、特に脆弱です。
GitHub はガードレールを追加することで対応しましたが、この投稿では、出力に対するヒューリスティックなフィルター（特定の URL パターンのブロックなど）はエンコーディングや多段階の情報漏洩チェーンによって回避可能であると指摘しています。根本的な問題、すなわち LLM が追加機構なしにはプリンシパル階層を強制するアーキテクチャ的能力を持たないという点は、未解決のままです。
議論されている緩和策としては、制約付き出力スキーマ（エージェントが任意のテキスト／URL ではなく構造化オブジェクトのみを生成できるようにする）、ケイパビリティの分離（読み取りアクセスとネットワークアクセスを独立して付与する）、そしてエージェントが生成したネットワークリクエストをデフォルトでブロックするサンドボックス実行環境などが挙げられます。これらはいずれも、現在の agentic プロダクトに完全には展開されていません。
Januscape: KVM/x86におけるゲストからホストへの脱出 [CVE-2026-53359]
Source: https://github.com/V4bel/Januscape
Januascapeは、x86上のKVMにおけるゲストからホストへの脱出脆弱性であるCVE-2026-53359に関する公開exploitおよびwriteupです。このバグにより、標準的なユーザーレベルのアクセス権を持つゲストVMがハイパーバイザーの境界を突破し、ホストカーネルのコンテキストでコードを実行することが可能になります。
この脆弱性は、KVMのネスト仮想化（VMX-on-VMX、すなわちL1ゲストが独自のハイパーバイザーを実行する構成）の処理に存在します。具体的には、L1ゲストが特定のVMCSシャドーモードで動作している際のVMREAD/VMWRITE命令のエミュレーションパスにおける型の取り違え（type confusion）がバグの本体です。KVMはシャドーVMCSの遷移処理においてゲスト制御のポインタを誤って信頼しており、攻撃者が範囲外のVMCSフィールドインデックスを供給することで、ホスト側の配列に対して境界チェックなしにインデックスアクセスが行われます。
exploitの手順は以下の通りです：(1) 権限のないゲストプロセスからL1ハイパーバイザー権限を取得する（これは別途必要なステップであるか、またはよくあるクラウド攻撃モデルとして攻撃者がL1ゲストハイパーバイザーを制御していると仮定する）；(2) 細工されたポインタを用いてVMREADパスを起動させる悪意あるネストVMを作成する；(3) 範囲外書き込みを利用してホストカーネルメモリを破壊する；(4) slabアロケータに対する標準的なヒープグルーミング技法を通じて任意のカーネルコード実行へと移行する。
リポジトリには、kmalloc-192 slabを標的としたヒープスプレーと権限昇格のためのROPチェーンを含む完全なPoCが収録されています。このexploitは特定のカーネルバージョン範囲で動作することが実証されています。パッチの適用自体は単純（境界チェックの挿入）ですが、カーネルの更新が必要です。
より広い観点での懸念点として、ネスト仮想化のエミュレーションコードは複雑かつパフォーマンスに敏感であり、歴史的にハイパーバイザー脱出の発生源となってきた経緯があります。クラウドプロバイダーがテナントに独自のハイパーバイザーの実行を許可する場合（ネスト仮想化サービスとして一般的に見られる）、攻撃対象領域は大幅に拡大します。
30papers.com – Ilyaの必読ML論文30選、入門者向けフォーマットで
Source: https://30papers.com/
本サイトは、Ilya SutskeverがJohn Carmackに渡したとされるMLの基礎文献リストを、深いML的背景知識を持たない読者を対象に、平易な言葉によるサマリー・概念解説・ガイド付き読解ノートとともに再構成したものです。
このリスト自体はコミュニティでよく知られており、深層学習理論の基礎（HintonのRBMおよびdeep belief networkに関する研究）、系列モデリング（オリジナルのLSTM論文、attention機構）、最適化（Adam、batch normalization）、アーキテクチャ（ResNet、transformer論文）、強化学習（AlphaGo、policy gradient手法）にわたる論文を含んでいます。このセレクションは、現代の大規模システムを理解するうえで何が概念的な基盤となるかについての、2015〜2020年頃のSutskeverの見解を反映しています。
本サイトの貢献は技術的なものではなく教育的なものです。各論文には(1)解決しようとしている問題を平易な言葉で説明したもの、(2)数式を追えない読者を前提としないキーアイデアの解説、(3)後続研究における重要性、という構成でまとめられています。論文間のクロスリンクによって依存関係グラフが明示されており、たとえばattentionはsequence-to-sequenceの後に、BatchNormはResNetの前提知識の後に提示されています。
PhD レベルの読者にとって興味深いのはサマリーよりもキュレーションの問いにあります。このリストはdiffusionモデル、現代的なRLHF、スケーリング則に関する文献よりも前のものであるため、2024年のカリキュラムとしては明らかに不完全です。しかし、「RNN・attention・残差接続・基本的なRLを理解してからスケーリングを考える」という概念的な核心は今もなお擁護可能です。このリストは「最先端」ではなく「基礎」として理解するのが適切でしょう。
HNのディスカッションでは、不足している論文（diffusion、constitutional AI、Chinchillaスケーリング則）や、入門者向けのフレーミングによってLSTM論文のvanishing gradient解析のような微妙な点が誤解を招くほど失われていないかどうか、という点に議論が集中していました。
Show HN: Rowboat – Claude Desktop のオープンソース・ローカルファーストな代替
Source: https://github.com/rowboatlabs/rowboat
Rowboatは、ローカルファーストのマルチエージェントオーケストレーションフレームワークであり、Claude Desktopや類似のプロプライエタリなエージェントシェルに対するオープンな代替として位置づけられています。TypeScript/Node.jsで記述されており、ユーザーのマシン上で完全に動作します。
アーキテクチャはグラフベースのエージェントオーケストレーションモデルを中心に構築されています。エージェントはノード、ツール呼び出しはエッジであり、宣言的なワークフロー定義に従ってグラフをトラバースすることで実行が進みます。これはLangGraphと精神的に類似していますが、ローカル実行とデータプライバシーをより重視している点が異なります。会話状態、ツール出力、エージェントメモリはすべて、クラウドサービスではなくローカルのSQLiteデータベースに格納されます。
主な技術的特徴は以下の通りです：(1) MCP（Model Context Protocol）互換性を持ち、Claude Desktop向けに定義されたツールを変更なしに読み込むことができます；(2) マルチモデルサポート — オーケストレーターはモデル非依存であり、OllamaによるローカルモデルやリモートAPIへのルーティングが可能です；(3) ローカルベクターストアによる永続的なエージェントメモリ（SQLite内で近似最近傍探索を直接行うsqlite-vecを使用し、独立したベクターDBへの依存を回避）；(4) オーケストレーションコードを記述せずにエージェントグラフを定義できるビジュアルワークフローエディター。
ローカルファーストという制約には具体的な影響があります。状態のシリアライゼーションは各エージェントステップの後にSQLiteへ同期的に行われ、クラッシュからの復旧やステップごとのリプレイが可能です。これは、マルチステップタスクの途中で失敗するエージェントワークフローのデバッグに有用です。トレードオフとして、水平スケーリングは容易ではなく、設計としてシングルマシンデプロイメントを前提としています。
MCP互換レイヤーは注目に値します。MCPツールマニフェスト形式を解析し、TypeScriptラッパーを自動生成するため、拡大するMCP互換ツールのエコシステムを再利用するコストが低減されます。現時点での制限としては、ストリーミングツール出力のサポートがないこと、および現在のグラフ実行エンジンにおける並列処理が限定的であることが挙げられます。
The LLVM Compiler Infrastructure
Source: https://cacm.acm.org/federal-funding-of-academic-research/the-llvm-compiler-infrastructure/
このCACMの記事は、連邦政府による学術研究への助成の影響を特集した号の一環として執筆された、LLVMの開発に関する回顧録です。技術的な内容としては、GCCおよびそれ以前の研究用コンパイラと比較して、どの設計上の意思決定がLLVMを技術的に成功に導いたかについて、明晰な視点から論じています。
記事の中心的な主張は、LLVMの影響力は3つの具体的なアーキテクチャ上の決定に起因するというものです。第一に、IR設計について：LLVM IRは、型付きかつSSA形式の三番地命令セットであり、明示的な制御フローグラフと無限仮想レジスタファイルを持ちます。これにより、IRはマシン固有の最適化に十分なほど低レベルでありながら、ポータブルな解析パスにも対応できるほど高レベルであるというバランスを実現しており、GCCのGIMPLE/RTLの分割が不器用に処理していた問題を解決しています。第二に、ライブラリへの分解について：各コンパイラコンポーネント（パーサ、オプティマイザ、コードジェネレータ）は、クリーンなC++ APIを持つ独立してリンク可能なライブラリであり、完全なコンパイラではないツール（サニタイザ、静的解析ツール、JITコンパイラ）による再利用を可能にしています。第三に、寛容なBSDスタイルのライセンスについて：これにより商用利用（Apple、Google、ARM、AMD）が可能となり、継続的なエンジニアリング投資の資金源となりました。
この回顧録は、NSFによる連邦資金調達が具体的に何を可能にしたかについて率直に述べています。それは、UIUCにおける初期段階の探索的研究であり、投資回収までの期間が長すぎるために産業界では資金調達が得られなかったようなものです。記事は現在の研究資金調達の議論に関連するある点を指摘しています——基本的なインフラ整備（製品でも論文でもなく、単に基礎的なものを構築すること）は、産業界のR&Dによって体系的に資金不足に陥っているということです。
実務者にとっての技術的な関心は、2003年に行われたIR設計上の選択が、現在の研究をどのように制約し、また可能にし続けているかという点にあります。型付きIRはMLIRの拡張モデルを支え、passパイプラインのアーキテクチャは現代のプロファイルガイド最適化フレームワークの基盤となっており、機械語レイヤーは今日の大部分のプロダクションJITコンパイラの基盤となっています。
Claude Codeの開発記
Source: https://www.anthropic.com/features/making-of-claude-code
これはAnthropicによる、ターミナルベースのエージェント型コーディングアシスタントであるClaude Codeの開発に関するプロダクト振り返り記事です。マーケティング的な出自ではありますが、技術的に注目すべき設計上の意思決定がいくつか含まれています。
中心となるアーキテクチャ上の選択は、Claude Codeを抽象化を最小限に抑えたモデルの薄いシェルとして構築し、「AI IDE」パラダイムを明示的に否定したことです。インターフェースはREPLであり、モデルにbash、ファイルI/O、gitへの直接アクセスを与えます。カスタムツールラッパーも、デフォルトのサンドボックス実行もありません。その根拠は、重厚なスキャフォールディングが障害モードを引き起こすというものです。具体的には、ファイルの状態を誤って表現するツールラッパー、モデルが自身の行動の実際の結果を観察できなくなるサンドボックス、そしてモデルが「共に」推論するのではなく「通して」推論しなければならない抽象化レイヤーなどが挙げられます。
これは具体的な技術的主張とつながっています。モデルは、シミュレートされた副作用ではなく、実際の副作用（ファイルの差分、テスト出力、コンパイラエラー）を観察できるときに、より良いパフォーマンスを発揮するというものです。コードを書き、テストを実行し、stderrを読み、パッチを当てるというフィードバックループは、環境が仲介されていないときほど密になります。これは本質的に、RL研究における「実」環境の議論をエージェント型デプロイメントに適用したものです。
この記事ではcontext managementについても明示的に論じています。長いコーディングセッションではcontext windowが枯渇してしまいます。彼らのアプローチは、単純なトランケーションや固定長のスライディングウィンドウを使うのではなく、以前の会話ターンを要約するコンパクションヒューリスティックを構築することでした。これはファイルの状態とタスクの状態を保持しつつ、中間的な推論チェーンは削除します。コンパクションはcontextが上限に近づいたときに自動的に実行されます。
IDEプラグインではなくターミナルツールとしてリリースするという決断は、ツールが検査可能であり、モデルの行動がプレーンなシェルコマンドとして可視化されるとき、開発者の信頼が高まるという意図的な賭けを反映しています。これが採用につながるかどうかはプロダクト上の問題ですが、アーキテクチャ的な論拠は整合的です。
注目の新しいリポジトリ
avifenesh/bw24
RustとCUDAでゼロから書かれた inference engine であり、NVIDIA Blackwellハードウェア（sm_120a、具体的にはRTX 5090 Laptop）上でのビット完全な再現性を目標としています。設計上の際立った選択は、正確性が構造的に保証されている点です。すなわち、数値出力はリファレンスと統計的に近いのではなく、ビット単位で完全に一致します。サポートされている機能には、NVFP4量子化（Blackwellで導入された4ビット浮動小数点）、Mixture-of-Experts ルーティング、およびMulti-Token Prediction（MTP）speculative decodingが含まれます。このエンジンは、単一のRTX 5090 Laptopの実測メモリ帯域幅と演算上限に対してチューニングされており、ベンダー提供のライブラリに頼るのではなく、カーネルパラメータを実測に基づいて較正しています。CUDAカーネルをRustで記述する（cudarcまたは直接のPTX出力を使用）ことで、スタック全体を単一言語に収め、ビルドシステムを簡素化し、C++ ABI由来の予期せぬ問題を排除しています。MTP speculative decodingにより、モデルは1回のforward passで複数のトークンをドラフトできるため、出力分布を変えることなくデコードのレイテンシを削減できます。ブラックボックスなTensorRT-LLMバイナリではなく、Blackwell上で透明かつ監査可能な inference パスを必要とする研究者にとって、すべての数値的判断が追跡可能な読みやすいコードベースを提供します。初期段階ではありますが技術的に野心的であり、sm_120aをターゲットとしているため、修正なしでは旧世代のGPU上では動作しません。
Source: https://github.com/avifenesh/bw24
ai4s-research/open-science
Claude for Scienceに対するローカルファーストかつモデル非依存の代替として位置づけられた、オープンソースのAI研究デスクトップです。アーキテクチャはクロスプラットフォームのネイティブパッケージング（macOSおよびWindows対応）のためにTauri（RustバックエンドとWebViewフロントエンド）を基盤とし、構造化されたtool-callingのためのModel Context Protocol（MCP）と、コンポーザブルなエージェント動作のためのスキルシステムを組み合わせています。モデル非依存であるということは、OllamaによるローカルモデルやOpenAI、Anthropic、その他のサービスを含む任意のLLMバックエンドにルーティングできることを意味し、研究者が特定のプロバイダーに縛られることはありません。「ローカルファースト」の保証により、実験・ノート・エージェントのトレースはデフォルトでディスクに保存されます。再現性は後付けではなく、第一級の関心事として扱われています。エージェントのスキルはモジュール式であり、個々の機能（文献検索・コード実行・データ抽出）をコアのオーケストレーションループに手を加えることなく追加・交換できます。MCPレイヤーはエージェントと外部ツール間の型付きインターフェースを提供し、ツール利用におけるprompt engineeringの作業面を削減します。分析のすべてのステップを検査・再実行できる、監査可能なAIアシスタンスを必要とする科学者にとって、これはホスト型のSaaSプロダクトに比べて実現可能性が大幅に高いアプローチです。Tauriの採用により、Electronの代替手段と比較してバイナリのフットプリントが小さく抑えられています。
Source: https://github.com/ai4s-research/open-science
opengeos/geolibre-rust
GeoLibreブラウザベースのGIS環境内で実行するために、RustからWebAssembly（WASIターゲット）にコンパイルされた地理空間解析ツールのコレクションです。上流のコードベースはWhiteboxTools next-generationから派生しており、地形解析、LiDAR処理、水文モデリング、ラスター/ベクター操作をカバーする高性能な地理空間ライブラリです。標準的なEmscripten WASMではなくWASIにコンパイルすることで、ブラウザ以外のWASIランタイムでも利用可能となり、デプロイの選択肢が広がります。これらのツールをクライアントサイドで実行することで、大規模なDEMに対するフロー累積やヒルシェード生成のような計算負荷の高い操作においてサーバーへの往復通信が不要になります。これらの操作は従来バックエンドサービスを必要としていたものです。Rust由来であることはメモリ安全性とGCポーズの排除を意味し、いずれもメモリ制約のあるブラウザタブで数ギガバイトの標高データセットを処理する際に重要です。WhiteboxToolsのベースに加えてGeoLibre固有の新しいツールが追加されており、ブラウザネイティブの地理空間ワークフローが発展するにつれてリポジトリが独自の方向へ分岐していくことが示唆されます。WASIコンパイルパスにより、再コンパイルなしにWasmtimeやWasmEdgeを使用したサーバーサイドパイプラインに同じバイナリを組み込むことも可能です。Python/GDALバックエンドなしで非自明な空間解析を必要とするブラウザネイティブのGISツールを構築する方にとって有用です。
Source: https://github.com/opengeos/geolibre-rust
yaroslav/kino
Ruby 4.0のRactor並行性モデル向けに設計されたRuby Webサーバーで、Rack 3インターフェースを実装しています。アーキテクチャは2つの層に分かれており、Tokio（非同期I/Oランタイム）とHyper（HTTPライブラリ）を使用したRustフロントエンドがネイティブ速度でコネクションの受け付けとHTTPパースを担当し、その後リクエストをRuby Ractorワーカーのプールへ引き渡します。RactorはRubyのshare-nothing並列実行ユニットであり、MRI RubyにおいてスレッドをシリアライズするGVL（Global VM Lock）を回避します。スレッドベースのフォールバックモードは、Ractorが実用的でないランタイムやワークロードにおける互換性を提供します。Rustフロントエンドの採用は重要な意味を持ちます。RubyのGVLが最も大きな障害となるネットワーキングのホットパスをゼロコストの非同期ランタイムにオフロードすることで、Rubyワーカーはアプリケーションロジックの実行のみに専念できます。これはPumaがI/O多重化にC拡張を使用する方法と構造的に類似していますが、I/O層全体をRubyの外に追い出すという点においてより積極的なアプローチです。Rack 3への準拠により、アプリケーションレベルの変更なしに既存のRuby Webアプリケーションスタックへそのまま組み込むことができます。Ruby 4.0でRactorが成熟していく様子を見守っているRubyサーバー開発者にとって、これはマルチコアハードウェア上での計測可能な並列性を備えた、プロダクション指向のRactorサーバーの具体的な実証例です。
Source: https://github.com/yaroslav/kino
514-labs/dnsglobe
世界中に分散した34台のパブリックリゾルバーを対象に、DNSレコードの伝播をリアルタイムで監視するためのターミナルUIです。インターフェースはキャラクターベースの描画を用いてターミナル上に世界地図をレンダリングし、各リゾルバーの現在の応答と伝播ステータスが地理座標上にオーバーレイ表示されます。このツールはリゾルバーに対して並行してポーリングを行い、更新済みレコードを受信済みのリゾルバーと、まだ古いデータを返しているリゾルバーをそれぞれ表示します。新しいレコードをデプロイした際に、ブラウザベースのツールを使わずに伝播を確認する必要がある場面で直接活用できます。複数の大陸にまたがる34台のリゾルバーをサポートしているため、地理的なカバレッジは十分に意味のあるものとなっています。レコードが北米のリゾルバーにはアジアやヨーロッパより先に伝播する場合があり、その様子がマップレイアウトによって一目で確認できます。TUIアプリケーション（RatatuiなどのライブラリをベースにしていることかもしれPage）として構築されており、ブラウザへの依存なくターミナル上で完結して動作します。エンジニアリング的な注目点は、DNSクエリの並行ディスパッチと、制約のある表示媒体における地理データのキャラクターマップレンダリングです。DNSカットオーバーや移行検証、あるいはリゾルバー群にまたがるスプリットホライズンDNSの挙動デバッグを行うオペレーションエンジニアにとって実用的なツールです。
Source: https://github.com/514-labs/dnsglobe
royalbhati/sqltoerdiagram
生の CREATE TABLE SQL DDL 文を解析し、インタラクティブなER図をすべてクライアントサイドでレンダリングする、ブラウザネイティブのER図ジェネレーターです。データがブラウザの外に出ることは一切ありません。パーサーはテーブル定義、カラム型、primary key、foreign key 制約を処理し、それらの制約からリレーションシップを推論してエンティティ間のエッジを描画します。100% ブラウザ上で動作するため、機密性の高いスキーマにも安心して使用できます。これは、組織がサードパーティのサービスにアップロードしたくない本番データベースの DDL を扱う際に、非常に重要な要件です。インタラクティブ機能としては、パン、ズーム、そして大規模なスキーマのレイアウトを管理するためのノードの再配置が可能です。技術的な本質は SQL パーサーにあります。MySQL、PostgreSQL、SQLite の各方言にわたる DDL 構文のばらつきを処理するには、寛容な文法か、方言ごとの解析ルールが必要です。DBeaver や dbdiagram.io のようなフルモデリングツールをアカウント付きでセットアップすることなく、素早くスキーマを文書化したり监査したりしたいデータベースエンジニアにとって、このツールは一般的なユースケースをゼロフリクションでカバーします。純粋なブラウザ実行であるため、バックエンドのインフラを一切必要とせず、静的ファイルとしてセルフホストすることも可能です。
Source: https://github.com/royalbhati/sqltoerdiagram
bjarneo/ku
キーボード操作に特化したKubernetes TUIで、ターミナルを離れることなくクラスターリソースのブラウジング、検査、編集、デバッグを統合的なインターフェースで提供します。主要な操作としては、名前空間をまたいだあらゆるリソース種別の一覧表示、ライブオブジェクトの編集（おそらくkubectl edit相当のパスを経由）、follow モードでのポッドログのストリーミング、そしてコンテナへのインタラクティブシェルのオープンが含まれます。キーボード駆動の設計は、モーダルまたはショートカット重視のインターフェースを示唆しており、リソース種別・名前空間・ポッド間のナビゲーションにマウスを必要としません。これはターミナル上で作業を完結させるオペレーターにとってより高速な操作性を意味します。「あらゆるリソース」という主張は、リソースリストをハードコーディングするのではなく、Kubernetes API のディスカバリーエンドポイントに問い合わせて利用可能なCRDおよびビルトインリソースを動的に列挙することを示唆しています。これは運用上重要な特性です。カスタムリソース（オペレーター、CRD）を持つクラスターにおいても、完全なナビゲーションが維持されます。この分野で確立された既存ツールであるk9sと比較した場合、差別化はUXの選択、パフォーマンス特性、あるいは特定のワークフロー最適化から生まれると考えられます。配布の簡便さを考えると、システム言語で記述されているか静的バイナリにコンパイルされていることが期待されます。クラスターの状態をインタラクティブにデバッグすることに多くの時間を費やすプラットフォームエンジニアやSREにとって有用なツールです。
Source: https://github.com/bjarneo/ku
rayfish/rayfish
irohを基盤として構築されたピアツーピアメッシュVPNです。irohはRustライブラリであり、トランスポートプロトコルとしてQUICを使用したホールパンチングおよび直接ピア接続を実装しています。メッシュトポロジーにより、すべてのノードが中央サーバーを経由してトラフィックをルーティングするのではなく、ピアと直接接続するため、レイテンシが低減され、単一障害点が排除されます。irohはP2Pネットワーキングの困難な部分を担っています。すなわち、STUN/TURN相当のメカニズムによるNATトラバーサル、ピアディスカバリー、そして公開鍵をノードに関連付ける暗号化アイデンティティレイヤーです。基盤となるトランスポートとしてのQUICは、多重化ストリーム、組み込みのTLS 1.3、そしてTCPベースのVPNトランスポートと比較してパケットロス時の優れた挙動を提供します。iroh上のVPNレイヤーはIPルーティングを追加し、ノードへの仮想IPアドレスの割り当てとiroh接続ファブリック上でのパケット転送を行います。TailscaleやNetbirdといったWireGuardベースのツールに対する実用的な優位性は、irohのホールパンチングが必須の調整サーバーを必要としない完全分散型運用向けに設計されている点ですが、困難なNAT構成においてはリレーノードが依然として一般的に必要とされます。まだ初期段階にあり、エンジニアリング上の興味深い課題は、中央コントロールプレーンなしでメッシュ内のルーティングテーブルの配布と収束をいかに処理するかという点です。