推論の学習に強化学習を使うDeepSeek-R1――R1-Zeroとの違いを読む
- R1-Zeroは、人が書いた推論手順による事前の教師あり微調整を行わず、強化学習で推論能力を育てる試みである。
- R1は初期データと複数段階の学習を加え、R1-Zeroの読みにくさと言語混在に対処する。
- 著者らはR1の推論性能がOpenAI-o1-1217と同程度と述べるが、確認できた本文から課題別の数値は示せない。
RESEARCH BRIEFS
論文をさくっと読む
掲載済みの論文解説から、研究の要点を短く紹介します。
LLMは出来事を混同せずに思い出せるか：日時・場所・人物を追う記憶評価
- 日時・場所・人物・内容を管理した物語から、出来事を問う質問と正解を生成する評価手法。
- 主な評価文書は短編20章・456問と長編200章・686問で、該当する出来事がない質問や複数ある質問も含む。
- 著者らは複数の関連する出来事や時空間関係でモデルが苦戦したと報告するが、確認できた本文の範囲ではモデル別得点は分からない。
音声ディープフェイク検出器は、別のモデル向けに作った攻撃音声も見抜けるか
- 複数の代理検出器と文字起こしモデルを使い、発話内容を保ちながら検出器を欺く音声を生成する。
- 著者らの報告では、白箱・灰色箱・黒箱の各条件で検出器の正解率が低下した。
- 実務への適用には、対象業務の録音条件で攻撃前後の見逃し件数と音声内容の維持を確かめる必要がある。
音源分離の30年を整理する：手法の前提、評価方法、実録音での課題
- 音声・音楽・一般音を対象に、モデルベース、深層学習、両者の併用による音源分離を整理したレビュー。
- SiSECなどの評価活動と、SDR、WER、STOIなど目的の異なる指標を紹介する。
- 著者らは模擬データと実録音のずれや音源数の変化を課題に挙げる。本文に全手法の統一的な性能比較値はない。
複数アプリの操作を分担し、過去の手順を再利用するスマホエージェント
- Managerが計画を小目標に分け、画面認識、操作、結果確認、情報記録を各役割が担う。
- 過去の操作履歴から助言のTipsと適用条件付きの操作列Shortcutsを更新し、後のタスクに使う。
- 著者らのMobile-Eval-E評価では、GPT-4o条件のSatisfaction ScoreがMobile-Agent-v2の53.0%に対し、Mobile-Agent-Eで75.1%、経験機能ありで86.9%だった。
救助要請の音声検出で騒音を先に判定するWhisperの複数課題学習
- Whisperの文字起こしと騒音分類を同時に学習し、騒音と判定した入力は文字起こし前に処理を止める。
- 著者らの実録音547件で、提案法の救助要請分類は正解率88.48％、マクロ平均F1は0.89だった。
- 騒音分類の正解率はCochlSceneのテスト7,687件で98.43％、MS-SNSDのテスト51件で58.82％だった。
3枚の写真から別視点を描くSIDGaussian：画像の内容と局所的な奥行きを学習に利用
- SIDGaussianは、少数視点の3D Gaussian Splattingに、DINO-ViTによる意味的な条件とDPTを使う局所的な奥行きの条件を加える。
- 著者らのLLFF実験では、3視点学習・1/8縮尺の平均PSNRがFSGSの20.31に対して20.71だった。
- 建設現場で使うには、撮影位置の推定、輪郭の正確さ、場面ごとの学習時間を別途検証する必要がある。
双方向の候補探索でLLMへの問い合わせを絞る用語体系の対応付け
- MILAは二つの用語体系を双方向に検索し、互いが第1候補となる概念を高確信の同義対応として扱う。
- 著者らは、生物医学分野の教師なし5タスク中4タスクで最高のF-Measureを報告した。
- LLMへの確認を一部の双方向候補に絞る設計であり、業務導入時には誤対応と問い合わせ数の検証が必要となる。
ラベル別の分布から画像を生成し、経路の曲がりを抑えるBlock Flow
- ラベル別の画像群を学習可能なガウス分布と対応付け、生成経路を学ぶ。
- 著者らは、出発点の分散が学習用経路の曲がり具合の上限に関わることを示し、分散を調整する正則化を検討した。
- CIFAR-10の表では、FABR方式がRK45、NFE113でFID2.29、IS9.66と報告された。
RedStar：長い解答例の量と難度は数学の推論成績にどう影響するか
- RedStarは、正誤を確認した長い解答例でモデルを追加学習し、数学とコードの段階的な解答を扱う。
- 著者らの表4では、Math-hardの得点は基準の32Bモデルで66.2、RedStar-code-mathで81.6だった。
- 実務のコード修正への適用は未評価であり、社内の独立した事例とテストによる検証が必要である。
登録音声と混合音声を照合し、指定した話者の声を強調するSEF-PNet
- 登録音声と混合音声を直接照合し、専用の話者符号化器を使わずに対象者の声を強調する。
- 著者らはLibri2Mixの２話者条件で、sDPCCNを上回るSI-SDR、PESQ、STOIを報告した。
- 実際の会議への適用には、対象者単独の正解音声を含むデータを用意し、収録条件ごとに効果を検証する必要がある。
30観測点と衛星・都市情報からラホールの時間別AQI地図を推定する
- ラホールの30観測点のAQIと衛星・気象・都市情報から、未観測格子の時間別AQIを推定する枠組みを提案した。
- 日別と時間別の入力を別々に処理し、格子間のつながりを使って2401格子のAQI地図を作る。
- 著者らは観測点を評価用に除いて誤差を測ったが、実験回数と表の平均値には食い違いがある。