AGENTIC COMMONSAI 產業簡報

繁中EN

標籤AI出版

返回文章列表

把視覺模型塞進輪椅之後:RAMMP 專案揭露的邊緣部署取捨

摘要: Meta 於 2026 年 7 月 27 日介紹 RAMMP,這項輔助機器人專案由匹茲堡大學 HERL 主導,獲 ARPA-H 最高 4,150 萬美元支持。系統以 DINO、SAM 和 RF-DETR 在電池供電裝置上做即時視覺感知,並為速度與穩定犧牲部分精度。文章指出實際部署規模與長期成效仍須等待後續真實世界測試。

輪椅使用者感受到的感知延遲,量起來像效能指標,實際上卻是安全底線。Meta AI 部落格 2026 年 7 月 27 日的文章給出兩個數字:全美估計有 550 萬名輪椅使用者,每年送進急診的輪椅相關傷害超過 10 萬件,絆倒與跌落是最常見的成因。輔助科技若應付不了真實世界的複雜度,被犧牲的不只是便利,還有信心與人身安全。

RAMMP 專案要解的就是這道題。它由匹茲堡大學的 Human Engineering Research Laboratories(HERL)主導,背後是 ARPA-H 最高 4,150 萬美元的支持,並與 ATDev 合作,把機器人、AI 以及使用者中心的設計收攏進同一個平台。

為何是 DINO 與 SAM,而非自行標註

撐起 RAMMP 視覺能力的是 Meta 開源的兩款模型,DINO 與 Segment Anything Model(SAM)。Meta AI 部落格的文章說得很清楚:DINO 屬於自監督視覺 transformer,靠未標註的資料就能學到視覺表徵,碰上標註稀缺的場合正好合用;SAM 只需要極少的提示,就能在影像或影片裡認出物件並把它描出來。

管線的拼裝方式是這樣:以 RF-DETR 為骨幹,用 DINOv2 embeddings 進行微調,訓練資料則全數交給 SAM 自動標註。有了這套組合,涵蓋各種角度、高度、背景與光照的高品質標註才能快速產出。資料出自 SAM,表徵出自 DINOv2,推論由 RF-DETR 執行——三個環節各司其職。

「用大模型產資料、用小模型上線」是這套做法的核心;同樣的邏輯也出現在 SimpleDesign 對蛋白質設計流程的意義 把兩階段訓練拿掉的做法裡——貴的環節留在離線端,便宜且穩定的環節跟著使用者走。

邊緣裝置上的取捨實況

電池供電的硬體得同時承受好幾種壓力:續航、散熱、時斷時續的網路連線,還有嚴格的體積與重量上限,而 DINOv3 與 SAM 都得在這種條件下工作。依 Meta 文章的敘述,團隊為邊緣裝置調整模型的手段包括壓低記憶體佔用、視情況改用較低精度、選擇貼近實際環境的部署格式,再靠實用解析度搭配有效率的分批處理把速度撐住。

這筆帳算得很清楚:邊界精度或特徵細節有時必須讓位,好換取使用者在移動當下需要的速度與穩定度。文中,RAMMP 專案幕僚長 Sivashankar Sivakanthan 把評判標準說得毫不含糊——輔助機器人夠不夠好,不看 benchmark 準確率,看的是它能不能在日常生活難以預測的狀況裡穩定運作。

DINOv3 在這個架構裡被當成精簡的「視覺大腦」使用:以通用基礎為底,往上疊加任務專屬的輕量模組,去執行物件偵測或移動追蹤,視覺資料因此能重複使用,電力也跟著省下來。

原型已到位,難題仍在

據 Meta 文章所述,這些功能已經整合進第一個原型:團隊以 DINO 相關工具查詢機器人的影像感測器,辨識自動門按鈕、杯子,以及路緣與地面,用來輔助導航。下一步要補上語音與觸控輸入,使用者才能點選並操作周遭的特定物件。

難度在此又加了一層:模型輸出的準確度與時間一致性固然要顧,系統在使用者五花八門的提示與輸入下是否夠穩定、可預測,同樣得做到。往後的整合清單上,SAM 3.1 與 DINOv3 都在列,目標是把時間一致性做強、把跨真實條件的穩健度拉高,並讓系統與決策控制系統銜接得更緊。

專案靠的也不只是技術堆疊。設計過程中,HERL 把輪椅使用者、臨床人員與倡議團體一併納入;合作名單上另有 Kinova Robotics、LUCI Mobility、ATDev,以及 Carnegie Mellon、Cornell、Northeastern、Purdue 等學術單位。

產品開發者可以帶走的東西

假設你的產品同樣得在裝置端跑視覺模型,RAMMP 的分工方式值得照抄:離線的資料標註與表徵學習交給大型模型,微調過的輕量模型負責即時推論,而「精度換速度」該被寫進設計參數,不是當成失手。

另一件不能忽略的事:驗收這類系統時,標準跟使用者體驗是分不開的。使用者得同時操作輪椅、又用語音描述環境,此時介面上任何一點摩擦都會立刻轉成認知負擔。系統之所以要把自然語言和影像資料併起來查詢環境,為的就是削減這份負擔與情境切換。

現階段外界能掌握的內容,都來自 Meta AI 部落格對 RAMMP 的介紹;至於專案真正部署到多大的規模、長期成效如何,還得等後續真實世界測試的結果才能說分明。

參考來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. 把 AI 用在科學與人命上:Google 的 2026 進度,對產品團隊意味著什麼

    Google 公布 AI 在疾病偵測、氣象預測與經濟機會上的實際部署數據,本文拆解產品團隊能借鏡的取捨。

    AI for Science

  2. 當實驗數據多到看不完:SAM 3 與 DINOv3 在 Genesis Mission 裡的角色

    美國國家實驗室把 Meta 開源視覺模型微調後部署到 300 張 A100,將一個月的標註工作壓到 15 分鐘。

    AI for Science

  3. AMIE 的下一步:AI 醫療從文字走向即時視訊問診

    Google Research 與 Google DeepMind 在 2026 年 8 月發表 AMIE 的視訊問診研究,展示 AI 如何透過多代理架構理解視覺與聽覺線索。本文從產品建造者角度,拆解這項技術對醫療 AI 產品設計的啟示與限制。

    AI