表示
超・人工知能研究所 Super AI Research Lab トップへ超・人工知能研究所AI Research Lab / ぱそ太郎工事中

since
平成38年9月29日

← 最新の短信
RESEARCH BRIEFS

論文をさくっと読む

掲載済みの論文解説から、研究の要点を短く紹介します。

論文短信

比較結果の確かさを更新しながら上位文書を選ぶREALM

LLM
  • REALMは文書ごとの関連度を推定値と不確実さで表し、小集団の比較結果を使って更新する。
  • TREC Deep Learning 2020でFlan-T5-XLを使った表では、NDCG@10はREALMが68.4、Setwise-Insertionが67.0だった。
  • 社内検索への適用には、関連性ラベルを付けた質問で順位の質、問い合わせ回数、応答時間を確かめる必要がある。
論文短信

動きを先に予測するFlowVLAは、ロボット操作の学習にどう役立つか

Robotics
  • 現在の画像から光フローを予測し、その動きを踏まえて次画像を予測する世界モデルを制御用に再学習する。
  • 著者らの報告では、LIBEROの平均成功率は88.1%で、条件をそろえて再実装したUniVLAの84.0%を上回った。
  • 実務では対象環境の連続映像と動作ラベル付き実演を用意し、同条件の直接予測方式と成功率や学習効率を比較する必要がある。
論文短信

走行記録とLiDARから通行可否を自動ラベル化し、画像と点群で推定する

RoboticsComputer Vision
  • 走行軌跡、画像、LiDARを使い、通行可能な領域と通行困難な領域の学習ラベルを自動生成する。
  • 画像と点群の特徴を別々に抽出して統合し、各画素の通行可能確率を推定する。
  • 著者らが報告した推定IoUはRELLIS-3Dで0.943、KITTI-360で0.910、Campusで0.960。
論文短信

質問中の語を手掛かりに検索順位を調整するLexSemBridge

RAGComputer Vision
  • 質問中の語の情報で質問側の検索ベクトルを調整し、候補段落側は変更しない。
  • 語の出現、学習した関連度、文脈に基づく予測の三方式を示し、画像の小領域への拡張も扱う。
  • 細かな一致を問う検索課題と評価条件は記載されているが、確認できた本文の範囲に成績表はない。
論文短信

中国語の語彙とトークンIDから学習データの混入を調べる

LLM
  • PocDetectは中国語トークンの文字面と検索結果を使って分類し、PocTraceはトークンIDから学習データ中の出現頻度の範囲を推定する。
  • 著者らのmC4での中国語データ混入率推定は3.13%で、各語を手作業で確認した値は2.14%だった。
  • GPT-4oの学習データに関する値は直接測定ではない。実務では手元の本文で分類と頻度推定を検証する必要がある。
論文短信

単語検索の順位は文書の出自で決まるのか――質問と言葉遣いの対応を検証

LLMRAG
  • 著者らは、人の質問では人の文書、LLMが言い換えた質問ではLLM文書が単語検索で好まれる傾向を報告した。
  • 8つの書き換えデータ集合とHC3-Englishで語彙を分析し、頻出語側と希少語側で異なる分布の変化を確認した。
  • 実務への適用には、質問の言い換え前後で出自別の順位と正解文書の順位を測る検証が必要である。
論文短信

画像の特徴を縮めてから注意計算するSAEViT:分類精度と計算量を検証

Computer Vision
  • SAAは画像の特徴を領域ごとに平均して注意計算を行い、転置畳み込みで元の大きさに戻す。
  • 著者らのImageNet-1K分類結果は、TがTop-1精度76.3%・0.8 GFLOPs、XSが79.6%・1.3 GFLOPsだった。
  • 製造工程への適用には、自社画像と確定したラベルを用い、欠陥の見逃しと実際の処理時間を検証する必要がある。
論文短信

利用者の感情を推定し、会話の続きを予測して応答を学ぶDreamCUB

LLM
  • DreamCUBは発話から感情・感情の肯定や否定・意図を推定し、会話の続きと報酬の予測を応答方針の学習に使う。
  • 著者らのDailyDialogue評価では、感情分類の正解率はDreamCUBが88.05、教師あり学習を加えた比較法が76.76だった。
  • 予約業務への応用は未検証であり、業務対話のラベル付きデータを用意し、生成された返信の事実誤りを測る必要がある。
論文短信

LLMの内部状態から自己意識を論じる:利用者別アトラクタの提案

LLM
  • 著者はLLMの内部状態を入力文や学習文書と区別し、利用者別アトラクタなどを自己意識の条件として提案する。
  • 出力を文章と知識に関わる内容の二層で表すが、後者の観測方法は確認できた本文からは分からない。
  • TinyLLaMAの分析節は目次にあるものの、確認できた本文には評価指標や測定値がなく、実証状況は判断できない。
論文短信

大量の固有名詞から発音の近い候補を選ぶ音声認識手法H-PRM

AudioLLM
  • H-PRMは一次認識文とホットワードの発音表現を照合し、最終認識へ渡す候補を絞る。
  • 著者らのCommon-voice-zh評価では、SeACo-ParaformerのPRRが70.63%から93.90%、MERが9.45%から6.57%に変わった。
  • 候補件数による結果は認識器ごとに異なるため、業務音声では誤った語の挿入も含めて確かめる必要がある。