放射線レポート抽出では合成文より実レポートの蒸留が有効
- Gemma-3-12Bで、分類ヘッドと指示学習、実レポート蒸留と合成レポートの組合せを比較した。
- 実レポートを蒸留した指示学習はmacro F1 0.845で、GPT-4oの0.850に近かった。
- 合成データの二方式は、五つの学習規模のいずれでも未調整モデルを上回らなかった。
RESEARCH BRIEFS
論文をさくっと読む
掲載済みの論文解説から、研究の要点を短く紹介します。
拡散言語モデルを少ない計算回数へ蒸留、確率表現の二方式を比較
- 同じ生徒モデルと分布整合の目的から、連続緩和と離散サンプリングの二方式を導く。
- Simplex-DMDはOpenWebTextの1024トークン生成で4回のネットワーク評価を使う。
- 多様性と計算回数を合わせた比較で、生成perplexityがSimplex-DMDでは49%、Reinforce-DMDでは20%低下した。
単機用の探索器を共有地図でつなぎ、複数ドローンの3D探索へ拡張
- 複数機の深度観測を共通のTSDF地図へ統合し、中央で探索を計画する。
- 機体間の衝突回避と、他機を静的障害物として地図に残さない処理を加えた。
- 四つの探索器のシミュレーションで、離れた地点からの出発が近接出発より速く広く探索した。
情報を小分けに話すと解けなくなるか、音声対話を三条件で評価
- GSM8Kの103問で、全文一括、分割文の一括、分割文の複数ターンを比較した。
- 商用四システムでは、分割会話にすると分割文一括より正解率が5.0〜25.3ポイント低下した。
- 会話文脈を管理するLEGOは三条件で77.5%、GPT-4o Realtimeの分割会話は76.6%だった。
水路を排水せず堆積を調べる、ソナー搭載の無人水上艇Dronar
- 市販ソナーを無人水上艇へ載せ、通水中の水路底を計測する。
- Arizona Canalの三回の現地試験で、清掃前後に最大15 cmの深度差を観測した。
- 今回の分析は下向きソナーによる堆積の確認で、亀裂検出や自動分類は今後の課題だ。
指令と実現できる動きの差から、人のいる空間の走行を計画
- RGB映像から、行動後の未来と実際に実現する動きを学習する世界モデルを提案した。
- 候補指令と予測される実現動作の差を、実行前の安全性の信号に使う。
- Social-HM3Dで成功率63.77%、人との衝突率21.67%を報告した。
軌道の好みを繰り返し教え、ロボットの運搬動作を変えるPrefPI
- ロボット自身が生成した軌道の相対的な好みだけで行動を調整する。
- 好まれた軌道の条件付き生成と誘導を繰り返し、初期には出にくい動作へ進む。
- 実機では150軌道の好みラベルで運搬高さが10.7 cmから19.8 cmへ増えた。
代表的な音響パターンとの比較で合成音声の生成元を説明
- 画像向けProtoPNetを音声のスペクトログラムに適用して生成システムを分類する。
- 判定に使う代表パターンを実際の学習音声へ対応づけ、似た領域を提示する。
- MLAAD v8で既知生成元、別言語、未知生成元の条件を評価した。
曲名指定を無視する正解ラベルを監査、音楽推薦の学習を補正
- TalkPlayの監査対象82ターン中41ターンで、指定曲と公式ラベルが矛盾していた。
- 曲目録から確定できる要求充足ラベルを学習ターンの1.5%に補った。
- 競合する43ターンのnDCG@20が0.523から0.802へ改善し、公式指標も維持した。
誤判定した音声を重点的に学び直す偽造検出SE-ADD
- 新しい偽造方式が主流になり、古い方式も残る環境を設定した。
- 全音声の正解ラベルに加え、誤判定例にはモデルが生成した音響上の手掛かりを与える。
- 未見攻撃のEERはQwen2-Audioで36.72%から7.52%、MOSS-Audioで19.93%から3.97%へ低下した。
音声圧縮で失われる偽造検出の手掛かりを守るFP-NAC
- 圧縮による誤りを本物側と偽物側に分け、コーデックごとの異なる失敗を分析した。
- 既存DACを固定し、検出器を教師にして小さな補正層を学習する。
- ASVspoof 2019 LAの0.5 kbps条件で、元のDACよりEERを最大49.8ポイント下げた。
言葉と画像を連続表現で統一し、一つの生成過程で扱うMultimodal Flow
- テキストと画像を順序のある連続的なまとまりとして表す。
- フローマッチングで共通の変化を学び、学習は複数部分を並列、生成は順番に進める。
- 同じ学習条件の比較で、離散型と混合型の代表方式を上回ったと報告する。