途中の計算方法で長い推論への強さが変わる――潜在状態の反復を比較
- 同じGPTNeoX構成の五方式を比べると、学習範囲内の高い正答率は長い経路への一般化を保証しなかった。
- 潜在状態を反復する方式は、7～12段の範囲外課題で他方式より良い成績を示した。
- 一つの潜在状態モデルでは、関係の検索と到達先の更新に関わる8要素の回路を著者らが特定した。
RESEARCH BRIEFS
論文をさくっと読む
掲載済みの論文解説から、研究の要点を短く紹介します。
語句の記憶を部品ごとに読み出す言語モデル、FactorEngram
- 共有辞書の部品を語句ごとの係数で組み合わせ、文脈に応じて部品単位で読み出す。
- 340MモデルではWikiTextのパープレキシティがEngramの22.29から21.29に改善した。
- 1Bモデルでは長文検索のNIAH-3正答率がEngramの16.6％から44.2％になったが、下流課題の平均正答率はわずかに低かった。
生成するロボット動作を、有効な形へ引き寄せながら作る
- MSFMは有効な動作の形に沿う移動を学び、形から外れた成分を引き戻す。
- 著者のロボット実験ではPush-Tの成功率が74％から82％、Squareが60％から72％へ上がった。
- 収束の保証には幾何学上の条件があり、未知の形では推定した局所近似への収束を扱う。
会話が進む間に表情と口の動きを調整する3Dアバター
- EvolvingAvatarは利用者の顔映像と両者の音声を使い、会話中に一部の重みを更新する。
- 455.95時間の会話を含むInterHead-Benchで、発話・傾聴の頭部動作を評価した。
- 最難条件で表情統計の不一致が会話冒頭から最大11.1％減ったが、指標ごとの優劣は異なる。
探索の成功と失敗を「その時の状況」と一緒に覚える最適化法
- CMDOは探索の状況、行動、結果をまとめて記憶し、似た局面で次の探索方法を選ぶ。
- CEC2017 F10では比較六手法中で最も低い最終誤差の中央値を報告した。
- 太陽電池の推定ではDEとCMA-ESの中央値が低く、性能は問題によって変わった。
同じ文章でも内部状態が違うと、言語モデルの選択は変わるか
- 同じ可視文章でも、介入を受けたKVキャッシュが後の二択の確率を変える場合があった。
- 頑健な隠れ状態の効果は七モデル中五モデルで観察され、モデル間に差があった。
- 著者は主観的経験の有無について結論を出していない。
ロボットの連続動作を、粗い方針から細部へ並ぶトークンに変える
- CATokは連続したロボット動作を、復元段階に対応する順序付き離散トークンへ変える。
- 著者の比較ではLIBERO平均成功率が0.959、RoboTwin 2.0のランダム化条件が0.531だった。
- 実機三課題ではFASTを各20ポイント上回ったが、対象機での復元誤差と全体遅延の確認が必要だ。
腫瘍の輪郭ラベルが少なくても、過去画像と読影報告から学ぶRT-Super
- 訓練時には複数時点のCTと読影報告を使い、推論時には一枚のCTだけで腫瘍候補領域を出す。
- 教師が作る腫瘍マスクを生徒の学習に使い、時系列画像で対応する位置を学習条件に加える。
- 外部施設の輪郭評価で、マスクなし訓練の平均DSCはRT-Superが30、報告のみのR-Superが16だった。
スマホ画面の移動を事前に記録し、AIの操作回数を減らすPhoneCLI
- アプリを事前に巡回し、各画面までの操作列を再利用できる命令として記録する。
- 実行時は命令を選んで行き先を確認し、再生後にも到着画面を確認する。
- AndroidLabでQwen3.7-Plusの成功率は50.7％から63.0％になったが、著者らは新たな失敗例も報告している。
診断名が当たっていても根拠は足りるか――提出時点を検証するEVD-Harness
- 正解率とは別に、根拠が十分になる前の提出と、十分になった後の待機をEVMとして測る。
- EVD-Harnessは候補作成と提出判断を分け、患者情報の引用を確認する。
- 著者らは研究用症例1,050件を用い、五つのモデルで正解率が12.0～51.1ポイント改善したと報告した。
人と交互に描くロボットは、何を・どこに・どう描くかを分けて考える
- 現在の絵と題材から、次に描く内容・場所・筆の動作を順に決める共同制作方式。
- 大まかな位置予測を画像特徴で絞り、抽出した領域を実際の筆の経路と色に変換する。
- 11作品の評価で、著者らは一度だけ描く比較手法より高い対象一致の採点結果を報告した。
魚眼・全天球・通常写真をまとめて三次元化するMEOW
- 通常・魚眼・全天球画像を同時に入力し、カメラ情報なしで距離尺度付き三次元点と撮影姿勢を推定する。
- 合成室内データでカメラ方式を変え、画像間の共通視野を確認して学習する。
- 著者らの2D3DS評価ではmAA@30が80.4で、カメラ種別を与えたWid3Rの54.3を上回った。