蚂蚁灵波开源触觉基础模型LingBot-Touch,称可提升机器人精细操作成功率
Wallstreetcn
11分钟前
Ai 焦点
据量子位报道,蚂蚁灵波开源触觉预训练基础模型 LingBot-Touch,用于在不同触觉传感器与动作模型之间建立统一表征。文中称,在 Sharpa Wave 和 XHand 两款灵巧手、共26项任务测试中,接入该模型后,多种动作模型的平均成功率高于“无触觉”或“直接输入原始触觉信号”的设置;轻量版 LingBot-Touch-Tiny 约有532万参数,相关技术报告、代码和模型权重已开源。
有帮助
No.帮助

据量子位报道,蚂蚁灵波最新开源了触觉预训练基础模型 LingBot-Touch,用于在触觉传感器和动作模型之间充当“翻译”。文章称,团队实验发现,机器人在直接接入原始触觉信号后,任务成功率不升反降;而在通过 LingBot-Touch 将不同传感器数据统一编码为触觉 Token 后,多项灵巧操作任务的成功率明显提升。

报道称,在一项使用 Sharpa Wave 灵巧手执行“拉上袋子拉链”的任务中,动作模型 π0.5 在仅依赖摄像头时成功率为 39%;直接输入指尖传感器原始读数后,成功率降至 15%。在“交接盒子”任务中,同样的 Sharpa Wave 与 π0.5 组合,接入原始触觉后成功率从 57% 降至 48%。即便将灵巧手换成 XHand,6 项任务平均成功率也从 49.71% 降至 48%。

文章称,问题在于原始触觉数据难以被动作模型直接利用。由于机器人手指大部分时间并未接触物体,触觉读数往往大面积为“0”;即便发生接触,信号也通常稀疏且带噪声。与此同时,视触觉、磁触觉和压阻式触觉等不同传感器的数据形式各不相同,使动作模型难以统一理解。

蚂蚁灵波给出的方案,是在传感器和动作模型之间加入一层统一表征。按照文章说法,LingBot-Touch 接收磁触觉、视触觉和压阻式触觉三类传感器信号,再将其统一编码为一种触觉 Token,从中提取接触位置、受力大小以及力方向随时间的变化。这样,不同传感器的数据在进入动作模型前就被转换成可统一理解的形式。

报道称,在同样使用 π0.5 执行“拉拉链”任务时,接入 LingBot-Touch 后,成功率升至 59%,比完全不用触觉高出 20 个百分点;“交接盒子”任务的成功率也从 48% 提升至 63%。文章还举例称,在“拧瓶盖”这类任务中,摄像头难以识别指腹是否在瓶盖表面打滑,而触觉信息可以帮助模型更顺畅地完成动作。

从模型结构看,文章称 LingBot-Touch 位于多种传感器和多种灵巧手、动作模型之间。其轻量版 LingBot-Touch-Tiny 约有 532 万参数,目前技术报告、代码和模型权重均已开源。

关于训练方法,文章称蚂蚁灵波团队主要分三步进行。第一步是统一坐标。由于不同传感器的触点数量和排布差异很大,团队先将所有触点映射到同一个标准化指尖空间,再为每个 Token 分配由时间、手指和三维位置共同组成的“地址”,并通过旋转位置编码(RoPE)输入模型。这样,模型无需依赖固定触点数量,即使更换布局也能读取。

在此基础上,三类传感器各自拥有轻量入口,用于将原始读数转成 Token;入口之后,共用同一个触觉 Transformer 主干。文章称,这意味着传感器之间的差异由各自入口处理,而接触本身的规律则由共享主干统一学习。

第二步是在特征空间中做预测。文章称,如果让模型直接还原原始读数,模型容易通过学习大量“未接触”的背景来降低损失,却学不到真正有用的接触信息。因此,LingBot-Touch 采用了 JEPA 路线:训练时随机遮住 90% 的触点,并在整段时间内保持遮挡,再根据剩余 10% 的变化,在特征空间中预测被遮住部分的表征,而不是逐点恢复原始读数。

按照文中数据,在同样使用 1000 小时数据训练的情况下,LingBot-Touch 判断接触中心的误差为 0.90 毫米,而 VAE 和 MAE 都在 3 毫米以上。另据文章举例,在“用一段触觉去找对应视频画面”的任务中,LingBot-Touch 的前 5 召回率为 32.07%,另外两种方法均低于 6%。

第三步是扩充数据并防止模型死记硬背。文章称,LingBot-Touch 的预训练数据总计 4983 小时、约 13.3 亿帧,其中三分之二来自人佩戴触觉手套操作,剩余三分之一来自遥操作 Sharpa Wave 双臂机器人。之所以大量使用手套数据,是因为其不依赖机器人本体,一个人一天就能在普通环境中录制数小时数据,而且这些数据只标注任务类别,如开、关、装配、倒水等,并未逐帧标注力的大小。

为避免模型记住有限的传感器布局,团队在训练时会随机改变触点采样密度,并对每个触点的位置做小幅扰动,以迫使模型学习接触规律本身,而不是固定布局。

在真实机器人测试中,文章称测试覆盖两款灵巧手:高自由度的 Sharpa Wave 执行 20 项任务,低自由度的 XHand 执行 6 项任务,共计 26 项。参与测试的动作模型包括 Diffusion Policy、π0.5、LingBot-VLA 和 T-Rex。每种模型都在三种设置下测试:不使用触觉、直接输入原始触觉信号、接入 LingBot-Touch。

文章称,在两款手上,四种动作模型中,接入 LingBot-Touch 的设置平均成功率最高。与“不使用触觉”相比,T-Rex、π0.5、LingBot-VLA 的成功率分别提升 23.18、21.81、24.81 个百分点,而参数量仅增加 0.13% 至 0.16%。

文中举例称,在“单手插吸管”任务中,难点在于刺破封膜的一瞬间。摄像头难以分辨封膜只是被压凹,还是已经被扎穿;而指尖触觉可以识别阻力突然变化,从而帮助机器人及时收力,避免吸管直接冲到底部。

文章特别提到 XHand 的实验结果。XHand 使用的磁触觉传感器型号从未出现在预训练数据中,而且预训练中的磁触觉数据全部来自人佩戴的手套。即便在接入 XHand 时,LingBot-Touch 一个参数都未修改,π0.5 在 6 项任务上的平均成功率仍从直接输入原始信号时的 48.00% 升至 74.17%。其中,“分离叠杯”任务的成功率从 32.5% 提升至 72.5%。

此外,文章称团队还将 LingBot-Touch 与此前的触觉基础模型 FTP-1 做了对比。在 Sharpa Wave 上判断接触中心时,FTP-1 的误差为 2.19 毫米,LingBot-Touch 为 0.12 毫米;在 XHand 上,误差则从 5.89 毫米降至 0.16 毫米。文章指出,FTP-1 在两只手上分别配有专门适配器,而 LingBot-Touch 使用的是同一个冻结编码器。

关于规模效应,文章称 LingBot-Touch 已初步呈现出 scaling law。Tiny 版在约 4000 小时数据附近开始饱和,而容量更大的 Small 版在 5000 小时数据时效果仍在提升;真实机器人任务的成功率也随着预训练数据增加而稳定上升。

从蚂蚁灵波整体技术路线看,文章称,在 LingBot-Touch 之前,灵波的通用大脑已布局多项能力,包括空间感知的 LingBot-Vision 和 LingBot-Depth 2.0,环境交互的 LingBot-Video 和 LingBot-World 2.0,以及灵巧操作的 LingBot-VLA 2.0 和 LingBot-VA 2.0。文章认为,这些能力大多解决“接触之前”的问题,而 LingBot-Touch 补上的是“接触之后”的感知能力,即“视觉管接触之前,触觉管接触之后”。

文章援引蚂蚁灵波 CEO 朱兴的观点称,GPT-6 Astra、Claude Fable 5.2 等数字世界大语言模型的进展,确实增强了机器人在复杂任务推理和物理操作方面的能力,灵波也在积极吸收相关进展;但若要真正打通操作闭环,“物理操作泛化性这块硬骨头还是绕不开”,很大程度上仍需要依靠具身基础模型自身的突破。

文章还提到,今年 9 月 GPT-6 Astra 发布后,RoboDojo 团队让其在零样本条件下运行 42 项仿真操作任务,综合得分在 43 个参评条目中排名第一;但在同一份报告中,其精度维度成功率仅为 4%,而表现最好的公开策略为 20.42%。文章称,插管、搭塔等需要精确接触的任务中,GPT-6 Astra 几乎全部失败,真实机器人测试也因安全问题被叫停。报告将这一差距归因于缺少对接触、力和碰撞的物理常识。

文章同时提到,Anthropic 当天发布了 Claude Fable 5.2。根据 Anthropic 官方博客公布的内部测试结果,Fable 5.2 在 RoboDojo 仿真测试中的平均成功率达到 64.9%,超过同一测试框架下 GPT-6 Astra 的 29.8%,也高于大多数专门为机器人控制打造的 AI 系统。官方演示显示,Fable 5.2 控制的机器人还能完成解魔方、拧瓶盖和画画等任务。不过,文章指出,RoboDojo 测试的是根据摄像头画面控制一台仿真的双臂机器人。

在商业化方面,文章称 LingBot-Touch 已与 LingBot-VLA、LingBot-Depth 完成融合,用于提升通用大脑的手眼协同和精细操作能力。蚂蚁灵波目前正与乐聚、钛虎等本体伙伴,以及国大药房、隆盛等场景伙伴,在零售分拣、物流分拣和工业场景中开展商业化测试。

文章最后表示,LingBot-Touch 可以单独使用,也可接入 π0.5、Diffusion Policy 等其他动作模型;传感器厂商可以继续沿各自技术路线发展,整机厂也无需为了适配某个模型而更换传感器。按照蚂蚁灵波的规划,公司将继续探索物理操作泛化性的上限,推动视觉、深度、触觉乃至温度等更多物理模态在统一模型中对齐。

项目主页:https://technology.robbyant.com/lingbot-touch

技术报告:https://github.com/Robbyant/lingbot-touch/tree/main/paper

GitHub:https://github.com/Robbyant/lingbot-touch

Hugging Face:https://huggingface.co/collections/robbyant/lingbot-touch

魔搭社区:https://www.modelscope.cn/collections/Robbyant/LingBot-Touch

本文来源:量子位

打赏
$0
点赞
0
收藏
0
浏览量 6
币界网提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击“举报”,我们会及时处理。
提交
评论 0
最热
最新
还没有人评论哦~快抢沙发吧!
相关阅读
Adobe 为 Photoshop、Premiere 和 Firefly 加入更多 AI 工具并推出 MCP
Adobe 在迈阿密 MAX 活动上为 Photoshop、Premiere、Illustrator、InDesign 和 Firefly 加入更多 AI 功能,并发布 Model Context Protocol(MCP),让 ChatGPT、Claude 或 Gemini 等聊天机器人调用 Adobe 功能。公司还在 Firefly 中测试新的原型设计工具 Builder,以及视频、图像编辑和自动化处理功能。
TechCrunch
·2026-11-10 22:43:35
0
Bennett Thrasher CEO谈2027年会计行业预测:AI、人才与不断演变的商业环境
Bennett Thrasher发布2027年会计行业预测,管理合伙人兼CEO Jeff Call认为,负责任地采用AI、加强数据安全、人才需求变化、经济与税收政策不确定性,以及对专业咨询服务的需求增长,将共同塑造会计师事务所未来一年的运营与客户服务方式。
PR Newswire
·2026-11-10 22:43:33
0
Adobe Creative Cloud 向第三方智能体开放,未来可让 AI 帮你本地修图剪片
Adobe 在 Adobe MAX 大会上公布多项新功能,包括让第三方 AI 智能体直接访问和修改 Creative Cloud 项目、升级 Firefly AI 助手,以及支持智能体在后台持续处理定期任务。Adobe 计划于 2027 年初启动 Creative Cloud 本地 MCP 接入功能的私人测试。
The Block
·2026-11-10 22:43:31
0
Anthropic 将IPO定价区间设为每股70至78美元,估值最高达1.4万亿美元
Anthropic在更新后的SEC文件中披露,其IPO定价区间为每股70至78美元,计划出售8.25亿股Class A普通股,最高可募资约644亿美元。与此同时,Nvidia、谷歌、AMD、博通、美光、微软和台积电同意在IPO同时以发行价合计购买260亿美元无投票权股票。公司预计11月18日定价、11月19日开始交易。
Decrypt
·2026-11-10 22:43:29
0
Calibrant Energy获得1.45亿美元项目融资,包括为PJM超大规模数据中心客户配套电池储能
Calibrant Energy宣布完成由Investec牵头的1.45亿美元债务融资,用于多个美国电力市场的太阳能和电池储能项目。该项目组合包括一个为PJM地区超大规模数据中心客户服务的120兆瓦时电池储能系统,花旗、Liberty Bank和西门子金融服务也参与了融资。
PR Newswire
·2026-11-10 22:34:43
11
查看更多