從斯坦福大學(xué)的 VIMA 機器人智能體，到谷歌 DeepMind 推出首個(gè)控制機器人的視覺(jué) - 語(yǔ)言 - 動(dòng)作（VLA）的模型 RT-2，大模型加持的機器人研究備受關(guān)注。

當前，自監督和語(yǔ)言監督的圖像模型已經(jīng)包含豐富的世界知識，這對于泛化來(lái)說(shuō)非常重要，但圖像特征是二維的。我們知道，機器人任務(wù)通常需要對現實(shí)世界中三維物體的幾何形狀有所了解。

基于此，來(lái)自 MIT CSAIL 和 IAIFI 的研究者利用蒸餾特征場(chǎng)（Distilled Feature Field，DFF），將準確的 3D 幾何圖形與來(lái)自 2D 基礎模型的豐富語(yǔ)義結合起來(lái)，讓機器人能夠利用 2D 基礎模型中豐富的視覺(jué)和語(yǔ)言先驗，完成語(yǔ)言指導的操作。

論文地址：https://arxiv.org/abs/2308.07931

具體來(lái)說(shuō)，該研究提出了一種用于 6-DOF 抓取和放置的小樣本學(xué)習方法，并利用強大的空間和語(yǔ)義先驗泛化到未見(jiàn)過(guò)物體上。使用從視覺(jué) - 語(yǔ)言模型 CLIP 中提取的特征，該研究提出了一種通過(guò)開(kāi)放性的自然語(yǔ)言指令對新物體進(jìn)行操作，并展示了這種方法泛化到未見(jiàn)過(guò)的表達和新型物體的能力。

研究團隊用一個(gè)講解視頻詳細介紹了 F3RM 方法的技術(shù)原理：