アーカイブ / Robotics / VLM
異なるロボットの操作経験を土台にするOcto――追加学習の効果と境界
Octo
Octoの原論文から掲載した図です。細部はクリックして拡大できます。
原論文の図の説明を読む
Fig. 1: Model architecture. Left : Octo tokenizes task descriptions (green) and input observations (blue) using a pretrained language model and a lightweight CNN, respectively. Top : The transformer backbone processes the sequence of task and observation tokens and produces readout tokens (purple) that get passed to output heads to produce actions. Bottom : The block-wise attention structure of the transformer allows us to add or remove inputs and outputs during finetuning: for example, we can add new observations (blue, dashed) or action spaces (purple, dashed) without modifying any pretrained parameters.
概要
- Octoは約80万件のロボット操作例で事前学習した方策で、言葉の指示と目標画像に対応する。
- 著者らの6設定の追加学習評価では、各設定約100件の実演を使い、平均成功率72％を報告した。
- 新しい場面や未学習の精密操作では性能低下が報告されており、対象機体での再評価が必要である。
補足：編集した模式図で仕組みを確認する
VISUAL EXPLAINER
図でつかむ、Octoの仕組み
- 01画像と作業指示
- 02入力の共通表現
- 03動作列の推定
- 04ロボットの指令
原論文の説明をもとにした模式図です。処理の細部は省略しています。
研究の背景
ロボットの方策とは、カメラ画像などの観測と作業目標から、次に取る動作を決める仕組みである。通常は機体や作業ごとに操作例を集めて学習するため、新しい現場への移行にはデータ収集の負担がある。
Octoは、多様な機体と作業の記録で方策を事前学習し、対象機体の少数の実演で調整することを狙う。カメラの配置、力覚などの入力、関節や先端の動かし方が異なる現場で適応できるかが実用上の焦点となる。
手法
Octoは、言葉の指示または目標画像と、カメラなどの観測を入力する。それぞれをモデルが扱える小さな情報単位に変換し、Transformerという入力間の関係を計算する仕組みで統合する。そこから、ロボットが続けて実行する動作の列を出す。例えば机上の物をつかむ場合、現在画像と目標から、腕や把持部の次の動きに相当する出力を作る。
動作の出力には、雑音を少しずつ取り除いて候補を形にする拡散型の部品を使う。事前学習にはOpen X-Embodimentの25データ集合から選んだ約80万の操作例を用いた。新しいカメラ情報や動作形式が必要な場合は対応する入力・出力の部品を加え、対象機体の実演で追加学習する。
新規性
Octoは、複数のロボットの操作データで事前学習した方策を公開し、新しい観測入力や行動の形式へ追加学習で適応できるように設計した。言葉の指示と目標画像の両方を扱い、入力・出力の部品を差し替えやすい構成を持つ。
著者らは、モデルの重みだけでなく学習・追加学習のための資源も公開したと述べる。研究上の要点は、単一の操作課題の達成だけでなく、異なるロボット設定へ学習済みの経験を持ち込めるかにある。
従来手法との違い
比較対象は、特定の作業例から最初から学習する方式、事前学習した画像表現を使うVC-1、複数ロボット向けのRT-1-Xなどである。Octoは画像の特徴だけでなく、観測から動作を出す方策全体を事前学習し、対象の機体に合わせて追加学習する。
事前学習の規模も異なる。著者らによると、OctoはOpen X-Embodimentから選んだ約80万の操作例、RT-X系の比較モデルは約35万例を使う。成績差を構成だけの効果と切り分けることはできない。
実験結果
著者らは4機関の9種類のロボット設定で、事前学習のままの操作と追加学習を評価した。新しい条件を含む6設定では各設定約100件の実演を使い、各20試行の成功率を集計した。追加学習後の平均成功率はOctoが72％、最初から学習する方式が20％、VC-1を使う方式が15％だった。
事前学習のままの比較では、著者らはRT-1-Xより平均成功率が29％高かったと報告する。ただし、比較対象の学習データ量や評価した課題が異なる。対象機体での追加学習は論文の条件では5時間未満とされるが、どの環境でも同じ時間で終わる保証ではない。
応用の可能性
編集上の応用案 · 論文が実証した用途とは区別しています。
編集上の応用案：既存のロボットで行う単純な物品の持ち上げ作業について、追加学習の初期値としてOctoを試す。入力は作業映像と「対象物を持ち上げる」という指示、または目標状態の画像とし、出力は次に取る連続した動作指令とする。
まず人が記録した対象機体の操作例で適応させ、固定した評価場所で成功・失敗を観察する。作業中に危険が生じないよう動作範囲を定め、失敗時は担当者が停止と原因確認を行う。これは論文の実験とは別の導入案である。
導入時の検証
導入時の検証案 · 対象データでの再評価が必要です。
導入時の検証案：同じ機体と一つの操作課題に対象を絞り、実演を収集して、最初から学習する方策を比較基準にする。Octoには同じ実演を使って追加学習し、作業開始位置や対象物の配置をそろえて試す。
成功率、失敗の種類、動作完了までの時間、必要だった実演数を記録する。学習時に見せていない配置でも試し、性能の落ち方を確認する。新しい入力や動作形式を使う場合は、その変換が実機の指令と一致するか先に点検する。
限界と課題
著者らは、事前学習で見た設定から離れた新しい場面では成功率が少し下がり、新しい動作技能や精密な挿入では大きく下がると報告する。したがって、学習済み方策を未知の作業へそのまま適用できるとは言えない。
編集上は、対象機体のセンサーと動作指令を合わせられるか、少数の実演が偏っていないか、失敗動作を安全に止められるかを確かめたい。論文の追加学習時間や成功率は示された機体・作業・試行条件での値である。
出典
元のタイトル・要旨を確認する（英語）
Octo: An Open-Source Generalist Robot Policy
Large policies pretrained on diverse robot datasets have the potential to transform robotic learning: instead of training new policies from scratch, such generalist robot policies may be finetuned with only a little in-domain data, yet generalize broadly. However, to be widely applicable across a range of robotic learning scenarios, environments, and tasks, such policies need to handle diverse sensors and action spaces, accommodate a variety of commonly used robotic platforms, and finetune readily and efficiently to new domains. In this work, we aim to lay the groundwork for developing open-source, widely applicable, generalist policies for robotic manipulation. As a first step, we introduce Octo, a large transformer-based policy trained on 800k trajectories from the Open X-Embodiment dataset, the largest robot manipulation dataset to date. It can be instructed via language commands or goal images and can be effectively finetuned to robot setups with new sensory inputs and action spaces within a few hours on standard consumer GPUs. In experiments across 9 robotic platforms, we demonstrate that Octo serves as a versatile policy initialization that can be effectively finetuned to new observation and action spaces. We also perform detailed ablations of design decisions for the Octo model, from architecture to training data, to guide future research on building generalist robot models.
論文本体の取得範囲に基づく解説。AIが作成した未校閲の記事です。性能の数値は著者の評価条件に依存します。応用例と検証計画は編集上の提案です。解説更新：2026-09-29