組めるLEGOと良いデザインを分けて評価、BrickBenchが設計エージェントの課題を測る
- 300の文章指示で、部品数や在庫条件を変えながら物理的妥当性、指示一致、デザインを評価する。
- 接続、衝突、安定性を検査する環境があると、主要エージェントは多くの指示で組める構造を作った。
- 人の作品との差は残り、人による比較では360件中323件で人の設計が識別された。
RESEARCH BRIEFS
論文をさくっと読む
掲載済みの論文解説から、研究の要点を短く紹介します。
一つの価値を学ばせると他の振る舞いはどう変わるか、LLMの内部表現から予測
- 66の価値について、単独の追加学習が未学習の価値への行動に与える影響を分析する。
- 文脈中の内部活動に基づく表現は一般化行列と相関0.45、説明文の表現は0.05だった。
- 複数価値の内部表現のまとまりは、反対方向の文脈を与えた際の頑健性とも相関した。
長文から特徴量を作るコードを事前探索、LLM-BlockFEが本番のLLM呼び出しを不要に
- LLMで特徴量抽出コードを事前に作り、固定プログラムと構造化データモデルで本番を処理する。
- コードを変更不能なブロックとして追加し、探索の見込みが低い枝では一段戻る。
- 四データセットで最良の比較方式よりAUCが0.0069〜0.0358高いと報告した。
語の構造発見と語彙圧縮を分離、LCTが多言語モデルの入力単位を設計
- 言語の重みを調整して内部の語構造を学び、その部品から最終的なトークン語彙を作る。
- 104言語と20万語彙で、圧縮効率と形態素境界への一致を既存方式と比較した。
- 四つの下流評価の集約値はBPEより1.48ポイント高いが、最少データ群の改善は保証されない。
検索索引の代表文書と4ビット圧縮を組み合わせ、疎な意味検索のメモリを削減
- 候補選択用の要約ベクトルを代表文書のIDへ置き換え、採点用ベクトルも圧縮する。
- MS MARCOの三種類の表現で評価し、同精度で最大5.3倍高速、メモリ約3分の1と報告した。
- 採点用の圧縮は別の検索方式にも適用され、kANNoloでもメモリ削減を示した。
音声ベクトルに元の録音はどれだけ残るか、共通の生成器で四系統を復元監査
- 凍結した音声エンコーダーの表現から、共通構造の拡散生成器で五秒の音楽を復元した。
- ConvNeXtの周波数構造を残すと、復元音から元音源を一位に検索できる割合が9.4%から35.2%へ上がった。
- 圧縮表現でも音楽内容が残るが、完全復元や最大限の情報漏洩を測った研究ではない。
文書の節や会話の順序で検索範囲を先に限定、NativeScopeは基準位置の正確さが鍵
- 質問を基準位置、関係、探す内容へ分け、保存済みの構造で候補を絞ってから意味検索する。
- 正しい基準位置を与えた200件で、文書89.28%、会話記憶72.50%の再現率を報告した。
- 基準位置を自動推定すると会話記憶の再現率は35.50%へ低下し、通常の検索を下回った。
未来の会話音声をまとめて予測、DiffuPlexが未再生部分だけを修正して計算を削減
- 利用者と応答側の未来フレームを同時に予測し、信頼できる先頭部分だけを使用する。
- 60クリップの実測でLISTENは1.46倍、SPEAKは1.59倍の処理高速化を報告した。
- 発話中まで予測を使うSPEAKは会話品質を保つ一方、音声の自然さが低下した。
第三者の基盤モデルなしで検索結果を再順位付け、Gaggleが学習過程の公開を試す
- 公開コーパスから事前学習し、教師あり学習で文書の関連度を判定するGaggleを構築した。
- 重みだけでなくデータ、コード、設定まで追跡できることを、開放性と自立性の条件として定義する。
- 報告の到達点は検索エージェント全体ではなく、候補文書を一件ずつ採点する部品である。
曲・区間・分離音の出自を先に指定、STEMMAが複数音源の関係理解を学習
- 同じ曲や区間に由来する音源の関係から問題を作り、正解をカタログの出自情報で決める。
- Music Flamingoの構造関係の正解率は追加学習で22.05%から81.89%へ上昇した。
- 調やテンポなどの属性比較には難しさが残り、出自判定の改善と区別して評価する必要がある。
過去の画面操作を毎回見極めて再利用、DeltaReplayが値の差し替えと記憶の放棄を選ぶ
- 成功した操作を画面と行動の遷移グラフとして保存し、現在の画面と依頼に照らして使い方を選ぶ。
- そのまま再実行、タスク固有の値を交換、基本エージェントへ戻る三経路を持つ。
- 同じ基盤モデルでAndroidWorldの成功率を最大10.3ポイント、SPA-Benchを最大25.0ポイント改善した。
逐次意思決定を三軸で比較、LLM探索の自由度が推論時の検証費用に移る
- 状態や行動の定式化、人の事前設計への依存、能力と計算費用という三軸で方式を比較する。
- ハノイの塔を使い、グラフ方式、強化学習、LLMによる探索を共通の視点で分析した。
- LLM系の弱く制約された行動設計は、確認した条件でメモリと実行時間の負担を増やした。