0

0

AI实时解读大脑信号,7倍速还原图像关键视觉特征,LeCun转发

WBOY

WBOY

发布时间:2023-10-19 14:13:01

|

703人浏览过

|

来源于51CTO.COM

转载

现在,ai已经能实时解读大脑信号了!

这不是耸人听闻,而是Meta的一项新研究,能够凭脑信号猜出你在0.5秒内看的图,并用AI实时还原出来。

在此之前,AI虽然已经能从大脑信号中比较准确地还原图像,但还有个bug——不够快。

为此,Meta研发了一个新解码模型,让AI光是图像检索的速度就提升了7倍,几乎“瞬间”能读出人在看什么,并猜出个大概。

像是一个站立的男人,AI数次还原后,竟然真的解读出了一个“站立的人”出来:

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

AI实时解读大脑信号,7倍速还原图像关键视觉特征,LeCun转发图片

LeCun转发表示,从MEG脑信号中重建视觉等输入的研究,确实很棒。

AI实时解读大脑信号,7倍速还原图像关键视觉特征,LeCun转发图片

那么,Meta究竟是怎么让AI“快速读脑”的?

大脑活动解码如何解读?

目前,AI读取大脑信号并还原图像的方法,主要有两种。

其中一种是fMRI(功能性磁共振成像),可以生成流向大脑特定部位的血流图像;另一种是MEG(脑磁图),可以测量脑内神经电流发出的极其微弱的生物磁场信号。

然而,fMRI神经成像的速度往往非常慢,平均2秒才出一张图(≈0.5 Hz),相比之下MEG甚至能在每秒内记录上千次大脑活动图像(≈5000 Hz)。

所以相比fMRI,为什么不用MEG数据来试试还原出“人类看到的图像”呢?

基于这一思路,作者们设计了一个MEG解码模型,由三个部分组成。

第一部分预训练模型,负责从图像中获得embeddings;

第二部分是一个端到端训练模型,负责将MEG数据与图像embeddings对齐;

第三部分是一个预训练图像生成器,负责还原出最终的图像。

AI实时解读大脑信号,7倍速还原图像关键视觉特征,LeCun转发图片

训练上,研究人员用了一个名叫THINGS-MEG的数据集,包含了4个年轻人(2男2女,平均23.25岁)观看图像时记录的MEG数据。

这些年轻人一共观看了22448张图像(1854种类型),每张图像显示时间为0.5秒,间隔时间为0.8~1.2秒,其中有200张图片被反复观看。

讯飞智作-虚拟主播
讯飞智作-虚拟主播

讯飞智作是一款集AI配音、虚拟人视频生成、PPT生成视频、虚拟人定制等多功能的AI音视频生产平台。已广泛应用于媒体、教育、短视频等领域。

下载

除此之外,还有3659张图像没有展示给参与者,但也被用于图像检索中。

所以,这样训练出来的AI,效果究竟如何?

图像检索速度提升7倍

整体来看,这项研究设计的MEG解码模型,比线性解码器的图像检索速度提升了7倍。

其中,相比CLIP等模型,又以Meta研发的视觉Transformer架构DINOv2在提取图像特征方面表现更好,更能将MEG数据和图像embeddings对齐起来。

AI实时解读大脑信号,7倍速还原图像关键视觉特征,LeCun转发图片

作者们将整体生成的图像分成了三大类,匹配度最高的、中等的和匹配度最差的:

AI实时解读大脑信号,7倍速还原图像关键视觉特征,LeCun转发图片

不过,从生成示例中来看,这个AI还原出来的图像效果,确实不算太好。

即使是还原度最高的图像,仍然受到了一些网友的质疑:为什么熊猫看起来完全不像熊猫?

AI实时解读大脑信号,7倍速还原图像关键视觉特征,LeCun转发图片

作者表示:至少像黑白熊。(熊猫震怒!)

AI实时解读大脑信号,7倍速还原图像关键视觉特征,LeCun转发图片

当然,研究人员也承认,MEG数据复原出来的图像效果,确实目前还不太行,主要优势还是在速度上。

例如之前来自明尼苏达大学等机构的一项名为7T fMRI的研究,就能以较高的复原度从fMRI数据中还原出人眼看到的图像。

AI实时解读大脑信号,7倍速还原图像关键视觉特征,LeCun转发图片

无论是人类的冲浪动作、飞机的形状、斑马的颜色、火车的背景,基于fMRI数据训练的AI都能更好地将图像还原出来:

AI实时解读大脑信号,7倍速还原图像关键视觉特征,LeCun转发图片

对此,作者们也给出了解释,认为这是因为AI基于MEG还原出来的视觉特征偏高级。

但相比之下,7T fMRI可以提取并还原出图像中更低级的视觉特征,这样生成的图像整体还原度更高。

你觉得这类研究可以被用在哪些地方?

论文地址:
https://www.php.cn/link/f40723ed94042ea9ea36bfb5ad4157b2

相关专题

更多
resource是什么文件
resource是什么文件

Resource文件是一种特殊类型的文件,它通常用于存储应用程序或操作系统中的各种资源信息。它们在应用程序开发中起着关键作用,并在跨平台开发和国际化方面提供支持。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

149

2023.12.20

http与https有哪些区别
http与https有哪些区别

http与https的区别:1、协议安全性;2、连接方式;3、证书管理;4、连接状态;5、端口号;6、资源消耗;7、兼容性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1991

2024.08.16

PHP WebSocket 实时通信开发
PHP WebSocket 实时通信开发

本专题系统讲解 PHP 在实时通信与长连接场景中的应用实践,涵盖 WebSocket 协议原理、服务端连接管理、消息推送机制、心跳检测、断线重连以及与前端的实时交互实现。通过聊天系统、实时通知等案例,帮助开发者掌握 使用 PHP 构建实时通信与推送服务的完整开发流程,适用于即时消息与高互动性应用场景。

11

2026.01.19

微信聊天记录删除恢复导出教程汇总
微信聊天记录删除恢复导出教程汇总

本专题整合了微信聊天记录相关教程大全,阅读专题下面的文章了解更多详细内容。

71

2026.01.18

高德地图升级方法汇总
高德地图升级方法汇总

本专题整合了高德地图升级相关教程,阅读专题下面的文章了解更多详细内容。

108

2026.01.16

全民K歌得高分教程大全
全民K歌得高分教程大全

本专题整合了全民K歌得高分技巧汇总,阅读专题下面的文章了解更多详细内容。

152

2026.01.16

C++ 单元测试与代码质量保障
C++ 单元测试与代码质量保障

本专题系统讲解 C++ 在单元测试与代码质量保障方面的实战方法,包括测试驱动开发理念、Google Test/Google Mock 的使用、测试用例设计、边界条件验证、持续集成中的自动化测试流程,以及常见代码质量问题的发现与修复。通过工程化示例,帮助开发者建立 可测试、可维护、高质量的 C++ 项目体系。

58

2026.01.16

java数据库连接教程大全
java数据库连接教程大全

本专题整合了java数据库连接相关教程,阅读专题下面的文章了解更多详细内容。

44

2026.01.15

Java音频处理教程汇总
Java音频处理教程汇总

本专题整合了java音频处理教程大全,阅读专题下面的文章了解更多详细内容。

20

2026.01.15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
CSS3 教程
CSS3 教程

共18课时 | 4.7万人学习

PostgreSQL 教程
PostgreSQL 教程

共48课时 | 7.4万人学习

Git 教程
Git 教程

共21课时 | 2.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号