目次
  1. ロボット導入の提案で基盤モデルの名前を聞いた方へ
  2. 何が公開されたのか
  3. 記号だけでは20回中1回です
  4. 実機10作業で89%と39%
  5. 精度が要るなら刻みを変えます
  6. 機体を替えたら差し替えるのは解釈器だけです
  7. 2Bの小さなモデルと、キーボードで集めたデモ
  8. 考える量を増やしても成功率は上がりません
  9. 数字の出どころと限界

ロボット導入の提案で基盤モデルの名前を聞いた方へ

ロボットや自動化設備の提案を受けていて、「最新の基盤モデルを使うので、指示を変えれば別の作業にも対応できます」という説明を聞いた段階の方に向けて書いています。

モデルの名前が嘘だという話ではありません。モデルとロボットの間に何を置くかで、同じモデルの成功率が20回中1回にも20回中20回にもなるという話です。9月9日に公開された研究が、その差を同じ実機で測っています。

何が公開されたのか

ハーネスとは、モデルの外側に置く仕組みの総称です。モデルに何を見せ、何を選ばせ、選んだ結果をどう実行し、その結果をどう返すかを決めます。AIエージェントの回では、同じモデルのままハーネスを変えただけでベンチマークが約3倍になった例を扱いました。今回はそれのロボット版です。

シンガポール国立大学のShow Labは2026年9月9日、Show-Harnessという論文を公開しました。画像と言語を扱う基盤モデル(VLM)にロボットを動かさせるための、モデルの外側の設計です。

仕組みは3段です。

  1. VLMは、カメラ画像とロボットの状態を見て、離散の行動単位をひとつ選ぶ。関節の角度や座標は出さない
  2. 機体ごとに用意した解釈器が、その単位を実際の動作に変換する。「前へ一歩」なら手先を2cm前へ、のように決定論で変換する
  3. 動いた結果の画像が、次の判断のためにモデルへ戻る

モデルが選べる行動単位は、次の表のとおりです。

種類 単位
移動 前・後・左・右・上・下(それぞれ一歩)
回転 時計回り・反時計回り(軸を指定)
手先 つかむ・放す
終了 完了

これだけです。VLAの回で書いた「画像から直接、連続の動作を出す」方式とは反対で、モデルには意味のある単位しか見せません。その代わり、一歩の大きさ、動く向きの基準、作業範囲の上限といった物理側の規約はすべて解釈器が持ちます

使い方は2つあります。Gemini-3.1 Proのような最上位モデルを学習なしで使うゼロショットと、Qwen3.5-2Bという小型の公開モデルを少量のデモで微調整する方式です。どちらも同じ行動単位を使います。

記号だけでは20回中1回です

この論文で発注側に最も関係があるのは、モデルではなく行動空間の表現を変えた実験です。

Gemini-3.1 Proを固定し、6つの移動単位の見せ方だけを4通りに変えました。

  • 意味のある名前と規約。「前へ」という名前と、それが物理的に何を起こすかの説明。これが既定
  • 意味のある名前だけ。規約の説明を外す
  • 無意味な記号と規約。名前を記号に置き換え、規約の説明は残す
  • 無意味な記号だけ。モデルは記号を試し、前後の画像から効果を推定する

結果は、記号でも規約があれば既定とほぼ同じ、名前だけだと使えるが非効率、記号だけだと20回中1回でした。記号だけの条件でモデルが推定した対応の正解率は23.3%です。

成功率を作っているのは規約で、名前はその補助です。基盤モデルが賢いかどうかより、モデルに渡す規約が文書になっているかどうかの方が、結果に効きます。

実機10作業で89%と39%

主結果は、7軸のFranka Research 3と、6軸の腕を2本持つAgileXの2機体で測られています。5種類の物体(積み木・バナナ・テニスボール・ぬいぐるみ・チェスの駒)を皿か碗へ入れる10作業で、各10試行、50ステップで打ち切りです。

比較対象のVLA(π0.5とGR00T)は、Show-Harnessの微調整版と同じデモから学習させた統制比較です。表の学習なしはGemini-3.1 Proのゼロショット、微調整はQwen3.5-2B、VLAはπ0.5です。10作業の平均は各10試行で、微調整版が学習で見ていない物体2種を含みます。環境の変化は背景・照明・視点・妨害物の4条件で各20試行の合算、シミュレーション学習は実機20試行、機体を替える行はFrankaとAgileXで5作業×各10試行の成功数です。

条件 学習なし 微調整 VLA
10作業の平均 89% 86% 39%
環境の変化 100% 94% 50%
シミュレーション学習 対象外 13/20 0/20
機体を替える 48/45 45/42 22/19

ゼロショットは学習しないので、シミュレーション学習の行は対象外です。GR00Tはπ0.5と同水準(10作業平均35%)でした。

数字の読み方に注意が要ります。卓上の把持と配置で、著者らの実験室で、著者らが測った値です。産業の現場の歩留まりではありません。ただ、同じデモ、同じ実機、同じ作業で比べているので、方式の差としては読めます。

精度が要るなら刻みを変えます

積み木を積む、ペグを穴に挿すという、より細かい作業も試されています。

やったことは、解釈器の一歩を2cmから1cmに変えただけです。モデルも行動単位も再学習も変えていません。ゼロショットは60%から82%へ、微調整版は40%から65%へ上がりました。同じデモで学習したπ0.5は18%で、細かい作業のデータを追加して学習し直して62%です。

回転でも同じことが起きています。人参を0度と45度の向きだけで学習した微調整版が、見たことのない90度で70%成功しました。回転の単位が15度刻みで、繰り返せば届くからです。π0.5は20%でした。

発注側にとっての意味は明確です。扱う部品や精度要求が変わったとき、設定を変えるのか学習し直すのかで、費用の続き方が変わります実演データを集める工程が毎回必要な設計と、解釈器の数字を書き換える設計では、2年目以降の見積もりが違います。

機体を替えたら差し替えるのは解釈器だけです

Frankaで48/50、AgileXで45/50という数字は、同じゼロショットのモデルを解釈器の差し替えだけで別の機体に載せた結果です。Frankaはインピーダンス制御、AgileXは逆運動学で関節目標を流す、シミュレータは操作空間の命令と、下の制御は機体ごとに違います。モデルから見える行動単位は変わりません。

モデルと機体の間に置くもの VLM 画像と状態を見る 行動単位をひとつ選ぶ 座標や角度は出さない 行動単位と規約 前・後・左・右・上・下 回転・つかむ・放す・完了 機体に依存しない共通の語彙 解釈器(機体ごと) 一歩の大きさ 2cm/1cm 作業範囲と高さの上限 違反する行動は実行前に止める Franka AgileX シミュレータ 機体を替えるとき差し替えるのは右の箱だけ。左と中央はそのまま
規約と安全上限は中央と右の箱にあり、モデルの判断には委ねません。論文の記述だけから描いています。

安全の上限もここにあります。作業範囲や机の高さの制限は解釈器に設定し、それを越える行動は実行前に止めると書かれています。モデルが賢いから安全、ではなく、モデルの外側で止める構造です。

双腕のVLAで手順を組み替えると0%になった回では、学習した組み合わせの外に出られないことが問題でした。今回の方式は、組み合わせをモデルに学習させるのではなく、単位を小さくして組み合わせ自体を不要にしています。

2Bの小さなモデルと、キーボードで集めたデモ

微調整版で使ったのはQwen3.5-2Bです。言語モデル部分にLoRAを当て、更新したパラメータは全体の約3%、学習は数GPU時間と書かれています。実行はRTX 5090が1枚です。

モデルの大きさも試されていて、2Bで十分、大きくすると細かい作業だけが良くなり、1B級は目標の近くで細かく動きすぎて長引くという結果でした。

デモの集め方も、この方式ならではです。行動単位が離散なので、キーボードのキーに割り当てられます。人がキーを押してロボットを動かし、その画像と行動の組がそのまま学習データになります。専用の遠隔操作装置は要りません。実機のデモは合計164エピソード、7,800ステップです。動画でロボットに教える回とは別の方向から、デモの収集を軽くしています。

シミュレーションだけで学習して実機に載せた実験も、同じ理由で成立しています。行動単位が同じなら、シミュレータで集めたデモを実機の解釈器で読めるからです。実データゼロで学習した報告と現場の証言が食い違った回で書いたとおり、この結果も卓上の把持と配置の範囲で読みます。

考える量を増やしても成功率は上がりません

最上位モデルの推論の深さを3段階で変えた実験があります。深くすると減るのは無駄なステップで、成功率はほぼ変わらず、時間は最大3.4倍でした。

応答の98%以上は有効な行動単位で、計画も主な失敗要因ではありません。誤りは細かい把持と配置に集中しています。対象の位置を枠で示す補助を足すと改善します。足りないのは思考ではなく、視覚の接地です

基盤モデルを使うロボットの提案で確かめる5項目

  • 行動の単位と規約は文書にあるか。モデルが選べる行動の一覧と、各行動が機体で何cm・何度動くかの規約。これが無い提案は、成功率がモデルの語彙頼みになっている

  • 機体を替えるとき何を作り直すか。解釈器だけで済むか、モデルの再学習が要るか。増設や機種更新のたびにデモを集め直す設計は、費用が2年目以降も続く

  • 精度要求が変わったとき何を変えるか。刻みの設定か、再学習か。扱う部品が変わるたびに再学習なら、その工数と期間を見積もりに入れる

  • 安全上限はどこで止まるか。作業範囲や高さの制限がモデルの外側で強制され、違反が実行前に止まるか。モデルの判断に安全を委ねる設計は避ける

  • 成功率の測り方。何作業・何試行・何ステップ上限で測った数字か。10試行×10作業の研究値を、現場の歩留まりに読み替えない

    ロボットベンダーやSIerとの技術打ち合わせと、社内の技術評価レポートに、そのまま確認項目として使えます

現場メモ

私たちはロボットを作りません。担当するのは、ロボットの手前と後ろにある業務システムの接続と、導入を判断する側のCTO顧問です。

その立場でこの論文を読んで、自分たちのやり方と同じだと思いました。私たちが業務システムにLLMを組み込むとき、モデルに自由な出力を許しません。先に決めるのは、モデルが選べる操作の一覧と、それぞれの操作が何をするかの規約です。伝票を検索する、下書きを作る、担当者に回す。座標の代わりに業務の操作単位があり、解釈器の代わりに既存システムのAPIがあります。モデルを替えても、この一覧と規約は残ります。

規約を書くのは地味な作業で、提案書には載りにくい部分です。ただ、今回の実験で20回中1回と20回中20回を分けたのは、この地味な部分でした。ロボットの提案を評価するとき、私たちが最初に見せてもらうのも、ここになります。

数字の出どころと限界

この記事の内容は、Show Lab(シンガポール国立大学)が2026年9月9日にarXivへ投稿した論文Show-Harness: Just a VLM Agent Can Play Robots(v1)とプロジェクトページを、2026年9月14日に確認したものに基づきます。10作業の平均89%と86%と39%、シミュレーション学習の13/20と0/20、機体別の48/50・45/50・22/50・19/50は同論文の表2の記載です。環境の変化の100%と94%と50%は、同じ表2の背景・照明・視点・妨害物の4条件(各20試行)の成功数を本記事で合算したもので、論文の平均欄はシミュレーション学習の行を含むため値が異なります。行動空間の4条件と1/20と23.3%は5.4.4節、刻みの変更による60%から82%と40%から65%とπ0.5の18%と62%、回転の70%と20%は5.3.1節、推論の深さと3.4倍と98%は5.4.1節、164エピソードと7,800ステップ、LoRAの約3%、RTX 5090は5.1節の記載です。

評価は平行グリッパーを持つ単腕と双腕の卓上作業に限られ、ヒューマノイドや多指ハンド、触覚や力覚を使う作業は対象外だと論文自身が限界として書いています。数字はすべて著者らの測定で、第三者の再現はまだありません。産業の現場での稼働実績もありません。

エージェントの実行基盤が公開部品になった状況はハーネスのロックインの回に、基盤モデルの公開発表の読み方は公開計画の欄まで読む回に書いています。ロボットと既存の業務システムをつなぐ部分のご相談は、お問い合わせからお送りください。

開発のご相談はこちらAIネイティブ開発支援を見る