国内首篇!融合语言模型的多模态触觉传感器,推动机器人触觉迈向人类水平
本研究为机器人触觉提供了多个富有前景的发展方向硬件方面通过传感器微型化、低功耗芯片及高集成封装提升机器人手内操作的灵活性并解决高负载下的散热稳定性难题。论文第一作者为清华大学博士、南洋理工大学博士后李寿杰清华大学博士生吴同和人工智能硕士生徐建乐。论文通讯作者包括清华大学深圳国际研究生院副教授丁文伯大连理工大学教授解兆谦新加坡国立大学助理教授吴昌盛和香港城市大学教授于欣格。随着机器人技术从「预设程序执行」向「具身智能交互」跨越触觉感知作为理解物体属性、实现精细操作的核心感测方式其重要性日益凸显但当前系统在感知维度、分辨率及信号解读能力上仍远逊于人类导致机器人往往处于「有感无知」的状态。在此背景下清华大学深圳国际研究生院丁文伯团队联合无界智航Xspark AI及多所国内外科研机构从鸽子卓越的多光谱视觉和非成像感知机制中获得灵感研发出了一种仿生多模态触觉传感器 SuperTac。该系统将多光谱成像、摩擦电感测与惯性测量融为一体并通过构建 8.5B 参数的触觉语言模型 DOVE实现了触觉信号从底层感知到高层语义推理的突破。相关成果作为封面元素发表于《Nature Sensors》第一期也是国内以第一单位在该期刊发表的首篇标志着机器人触觉感知向「人类水平」迈出了关键一步。论文标题Biomimetic multimodal tactile sensing enables human-like robotic perception论文链接https://www.nature.com/articles/s44460-025-00006-y图 1 Nature Sensors 第一期封面图SuperTac 作为核心元素在封面上进行了展示右下角一、仿生逻辑从鸽子眼球到多模态感知架构鸽子拥有自然界最复杂的感知系统之一SuperTac 的硬件设计对应了其生物学特征。图 2 仿生学设计受鸽眼启发的高分辨率多模态触觉传感器多光谱视觉的迁移从视锥细胞到多通道相机鸽子的视网膜包含多种视锥细胞不仅能感知可见光还拥有人类不具备的紫外线UV感知能力。SuperTac 集成了小型化的多光谱成像模块覆盖了从紫外390 nm、可见光400–700 nm到近红外940 nm及中红外5.5–14.0 μm的超宽频段。通过引入超宽频段成像机器人能够在单一交互中同时解析热辐射、荧光位移等深层物理信息实现了对物体形状、纹理、颜色和温度的全面表征。非成像感知的映射从地磁感应到 TENG / IMU鸽子能通过视网膜中的隐花色素等分子感知地磁场这是一种不依赖图像的物理感知。SuperTac 在 1 mm 厚的皮肤内嵌入了摩擦纳米发电机TENG和惯性测量单元IMU。TENG 利用接触起电原理根据不同物体的电负性差异识别材质准确率 95%并实现 15 cm 内的接近觉感知。IMU 模拟生物的本体感受捕捉 0–60 Hz 的振动及碰撞信号。通过将摩擦电与惯性信号与光场调制耦合传感器无需密集电极阵列即可扩展出对材质极性、震动及空间姿态的感知能力。二、核心机制光场调制的「智能感知层」SuperTac 的核心竞争力在于其厚度仅为 1 mm 的光场调制多层感知皮肤。皮肤最外层的导电层采用透明的 PEDOT:PSS通过丝网印刷技术在具有优异拉伸性能的 TPU 薄膜上形成涡旋线电极设计。这种涡旋设计能提供均匀的电学信号结合摩擦起电机制使皮肤在接触不同电负性物体时产生截然不同的电学反馈从而实现高精度的材质分类与 15 cm 范围内的接近觉探测。图 3 多光谱机理在导电层之下单向透视反射层充当了光学开关其透明度受两侧光强差调节。当内部 LED 开启形成「触觉模式」时内侧光强占据主导反射层变为不透明状态CMOS 单元聚焦捕捉皮肤表面的微观纹理与形变当内部光源关闭反射层随之变为透明允许外部可见光透射使传感器能够直接获取物体的 RGB 颜色信息。紧邻其下的紫外荧光标记层则利用在近红外波段不可见但在紫外光下激发的荧光标记实现了形变监测与物体纹理检测的解耦确保在复杂抓取过程中能够同步捕捉切向滑动与表面细节。图 4 相关测试指标三、触觉语言大模型8.5B 参数背后的多模态融合架构为了构建跨模态物理信号与自然语言空间的统一表征对齐DOVE 采用了分层架构设计其底层骨干由预训练的大语言模型 Vicuna 构成为系统提供了强大的语言理解与逻辑推理基础。为了处理极其复杂的触觉输入系统并行集成了四组预训练的 CLIP对比语言—图像预训练模型作为模态编码器将图像化的触觉特征包括颜色、纹理、温度和材质信号提取为深层特征向量。图 5 触觉语言大模型 DOVEDOVE 的训练通过三阶段策略实现从底层感知到高层认知的递进首先利用 CLIP 将异构传感器信号转化为通用的图像表征随后通过投影层将触觉特征精准对齐至语言模型空间最后针对 Vicuna 骨干网络进行微调使其能够结合常识对触觉指令进行复杂推理。四、应用场景从物理触碰到语义逻辑的跃迁SuperTac 提供的多模态底层数据通过 DOVE 模型的深度解析成功实现了从单纯的「物理感知」向高层「语义认知」的跨越赋予了机器人类人的具身交互能力。图 6 SuperTac DOVE 的应用场景在基础的识别维度DOVE 能够实时融合传感器采集的异构多模态数据为操纵目标建立起全方位的「物理画像」。例如在抓取实验中面对一个未知杯子DOVE 能准确地将其感官印象转化为人类可理解的语言「黄色室温表面具有规律排布的凸起纹理判定为金属材质」。最高层级的应用体现在常识指引下的功能决策与推理。DOVE 不仅解析当前的物理数据还能将实时的触觉反馈与预训练的大模型常识相结合从而推断物体的潜在功能并做出逻辑决策。在极具挑战性的垃圾分拣任务中这一能力得到了充分验证当机器人接触到乱序堆放的杂物时DOVE 能够根据触觉反馈进行逻辑建模。例如它会推论道「该物体具有典型的 PET 物理特征结合其轻薄的结构判定为废弃的塑料饮料瓶基于环保常识建议将其放入可回收垃圾桶」。五、未来方向本研究为机器人触觉提供了多个富有前景的发展方向硬件方面通过传感器微型化、低功耗芯片及高集成封装提升机器人手内操作的灵活性并解决高负载下的散热稳定性难题认知层面则依托 DOVE 模型的模态无关框架通过优化传感器配置与专用数据集来持续增强系统的泛化能力从而为实现自然、高效的人机交互奠定坚实基础。

相关新闻

Java毕设选题推荐:基于Java的社交媒体应用设计与实现论文基于Web的社交媒体平台【附源码、mysql、文档、调试+代码讲解+全bao等】

Java毕设选题推荐:基于Java的社交媒体应用设计与实现论文基于Web的社交媒体平台【附源码、mysql、文档、调试+代码讲解+全bao等】

博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java、小程序技术领域和毕业项目实战 ✌️技术范围:&am…

2026/7/6 6:52:15 阅读更多 →
SSM医疗保险分层系统yu61r(程序+源码+数据库+调试部署+开发环境)带论文文档1万字以上,文末可获取,系统界面在最后面

SSM医疗保险分层系统yu61r(程序+源码+数据库+调试部署+开发环境)带论文文档1万字以上,文末可获取,系统界面在最后面

系统程序文件列表 系统项目功能:投保单位,定点医院,就诊费用 SSM医疗保险分层系统开题报告 一、课题研究背景与意义 1.1 研究背景 随着我国医疗保障体系的不断完善,全民医保覆盖范围持续扩大,参保人员群体日益多元化,不同收入、…

2026/7/3 19:05:13 阅读更多 →
SSM医患交流系统1w127(程序+源码+数据库+调试部署+开发环境)带论文文档1万字以上,文末可获取,系统界面在最后面

SSM医患交流系统1w127(程序+源码+数据库+调试部署+开发环境)带论文文档1万字以上,文末可获取,系统界面在最后面

系统程序文件列表 系统项目功能:用户,医生,科室,医生预约,在线留言,科室介绍,病历信息 SSM医患交流系统开题报告 一、课题研究背景与意义 1.1 研究背景 随着互联网技术与医疗行业的深度融合,传统医患沟通模式已难以满足当下患者多样化、便捷化的就医需…

2026/7/6 4:24:35 阅读更多 →

最新新闻

Plone 5 Templates插件:非技术人员的内容结构化编辑方案

Plone 5 Templates插件:非技术人员的内容结构化编辑方案

1. 项目概述:为什么“Templates”插件是Plone 5内容编辑体验的真正分水岭 你有没有在Plone后台编辑页面时,被内容编辑器卡住过?不是因为不会写,而是因为——明明想加一个带图标、标题和三段文字的“服务亮点模块”,结果…

2026/7/6 10:36:18 阅读更多 →
微信公众号网页授权全流程实战:从OAuth2.0原理到本地调试与线上部署

微信公众号网页授权全流程实战:从OAuth2.0原理到本地调试与线上部署

1. 项目概述:为什么网页授权是公众号开发的“敲门砖”如果你正在开发一个需要用户在微信内访问的H5页面,并且希望获取用户的微信身份信息来实现自动登录、个性化展示或者支付等功能,那么“微信公众号网页授权”就是你绕不开的一道坎。这不仅仅…

2026/7/6 10:36:18 阅读更多 →
Excel COUNTIF函数底层逻辑与条件统计避坑指南

Excel COUNTIF函数底层逻辑与条件统计避坑指南

1. 这不是普通计数,是Excel里最常被低估的条件统计引擎 你打开一份销售报表,想快速知道“华东区销售额超50万的客户有几个”,或者翻看学生成绩单,需要统计“数学成绩在85分以上的人数”,又或者在库存表里查“状态为‘缺…

2026/7/6 10:34:13 阅读更多 →
OpenCV 4.8 透视变换实战:4步自动校正倾斜文档,PSNR 提升 25dB

OpenCV 4.8 透视变换实战:4步自动校正倾斜文档,PSNR 提升 25dB

OpenCV 4.8 透视变换实战:4步自动校正倾斜文档,PSNR 提升 25dB当你在咖啡馆用手机拍摄一份重要合同时,是否常遇到文档边缘扭曲、文字变形的困扰?传统裁剪工具只能处理简单旋转,而透视变换技术能像魔术师般将任意角度拍…

2026/7/6 10:32:10 阅读更多 →
技术团队如何用Python和Django做公益:食品银行数字化实战指南

技术团队如何用Python和Django做公益:食品银行数字化实战指南

1. 项目概述:一场扎根社区的实体行动,远不止是“捐几箱食物”“Six Feet Up Employees to Help Indiana Food Bank”——这个标题初看像一则企业新闻稿的导语,但在我过去十年跑遍全国上百个社区服务项目、参与过三十多场食品银行实地协作后&a…

2026/7/6 10:32:10 阅读更多 →
Terraform工程化实战:模块化、状态治理与计划审计三大策略体系

Terraform工程化实战:模块化、状态治理与计划审计三大策略体系

1. 项目概述:这不是一次简单的“语法升级”,而是一场基础设施即代码的思维跃迁“Terraforming Parts Unknown”这个标题乍看像科幻小说——在未知疆域上重塑地貌。但对每天和云资源、Kubernetes集群、网络拓扑打交道的工程师来说,它精准戳中了…

2026/7/6 10:30:09 阅读更多 →

日新闻

H2 与 MySQL 单元测试兼容性:5 个关键 SQL 语句差异与规避方案

H2 与 MySQL 单元测试兼容性:5 个关键 SQL 语句差异与规避方案

H2与MySQL单元测试兼容性:5个关键SQL语句差异与规避方案1. 单元测试中的数据库兼容性挑战在Java开发领域,单元测试是保证代码质量的重要环节。当应用涉及数据库操作时,测试环境的搭建往往成为开发者的痛点。H2数据库因其轻量级、内存模式和快…

2026/7/6 0:01:17 阅读更多 →
Windows任务栏终极清理指南:用RBTray一键隐藏窗口到系统托盘

Windows任务栏终极清理指南:用RBTray一键隐藏窗口到系统托盘

Windows任务栏终极清理指南:用RBTray一键隐藏窗口到系统托盘 【免费下载链接】rbtray A fork of RBTray from http://sourceforge.net/p/rbtray/code/. 项目地址: https://gitcode.com/gh_mirrors/rb/rbtray 你是否厌倦了Windows任务栏上密密麻麻的图标&…

2026/7/6 0:01:17 阅读更多 →
Visual C++ 运行时库一键安装终极指南:告别DLL缺失烦恼

Visual C++ 运行时库一键安装终极指南:告别DLL缺失烦恼

Visual C 运行时库一键安装终极指南:告别DLL缺失烦恼 【免费下载链接】vcredist AIO Repack for latest Microsoft Visual C Redistributable Runtimes 项目地址: https://gitcode.com/gh_mirrors/vc/vcredist 你是否曾经遇到过这样的情况:下载了…

2026/7/6 0:05:19 阅读更多 →

周新闻

B站视频下载神器BiliTools:5分钟学会轻松保存任何B站内容

B站视频下载神器BiliTools:5分钟学会轻松保存任何B站内容

B站视频下载神器BiliTools:5分钟学会轻松保存任何B站内容 【免费下载链接】BiliTools A cross-platform bilibili toolbox. 跨平台哔哩哔哩工具箱,支持下载视频、番剧等等各类资源 项目地址: https://gitcode.com/GitHub_Trending/bilit/BiliTools …

2026/7/6 8:11:50 阅读更多 →
威胁模型全解析:从新手入门到实战应用,助你构建安全产品!

威胁模型全解析:从新手入门到实战应用,助你构建安全产品!

威胁模型的陌生现状在忙碌疲惫的一天里,参与了关于混合后量子密码学的讨论,应付端点攻击找茬的人,还参与留言板讨论后,发现“威胁模型”对多数人仍是陌生概念,且多被当作时髦用语。有趣的相关画作有一幅由 Embyr 创作的…

2026/7/6 8:11:52 阅读更多 →
渗透测试入门指南:从零基础到实战环境搭建

渗透测试入门指南:从零基础到实战环境搭建

1. 从“看热闹”到“入门”:我理解的渗透测试到底是什么?每次看到新闻里说某个大公司的数据被“黑”了,或者某个网站被攻击导致服务瘫痪,你是不是和我一样,心里会冒出两个念头:一是“这黑客真厉害”&#x…

2026/7/6 6:52:56 阅读更多 →

月新闻