0

0

MIT新材料打造「人造突触2.0」,模拟深度学习训练提速100万倍!

WBOY

WBOY

发布时间:2023-04-09 15:51:11

|

1218人浏览过

|

来源于51CTO.COM

转载

近年来,随着科学家们不断推动机器学习的边界,训练日益复杂的神经网络模型所需的时间、能源和资金正在飞速增长。「模型能建,训练太慢」成为困扰越来越多研究人员的一个头疼问题。

最近,被称为「模拟深度学习」的人工智能新领域有望以更少的能源实现更快的计算。可编程电阻器是模拟深度学习的关键部分,就像晶体管是数字处理器的核心元素一样。

通过在复杂的层中重复排列可编程电阻器,研究人员可以创建一个模拟人工神经元和突触网络,就像数字神经网络一样执行计算。这个网络可以被训练来实现复杂的人工智能任务,如图像识别和自然语言处理。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

图片

模拟神经网络的计算速度很大程度上取决于「人造突触」的传输速度。麻省理工学院的一个团队要解决的就是这个环节。他们之前已经开发了一种人造模拟突触,现在要做的是,搞个新材料,超越原来的老版本。

这次,他们在制造过程中利用了一种实用的无机材料,让前文提到的可编程电阻器的运行速度达到了以前的版本的100万倍,同时也实现了比人脑中的突触快约100万倍。此外,这种材料还使电阻的能源效率极高。与早期版本的设备中使用的材料不同,新材料与硅制造技术兼容。这一变化使得在纳米尺度上制造器件成为可能,并可能为整合到深度学习应用的商业计算硬件中铺平道路。这项研究论文已经发表在Science上。

图片

论文链接:https://www.science.org/doi/pdf/10.1126/science.abp8064

论文的通信作者、麻省理工学院电气工程和计算机科学系(EECS)的唐纳教授Jesús A. del Alamo说:「凭借这一关键发现,加上MIT.nano的强大的纳米制造技术,我们已经能够把这些碎片放在一起,并证明这些设备本质上是非常快的,可以在合理的电压下运行。」「该设备的工作机制是将最小的离子--质子--电化学插入绝缘氧化物中,以调节其电子传导性。因为我们用的设备非常薄,所以可以通过使用强电场来加速这个离子的运动,并将这些离子设备推向纳秒级操作」论文通信作者、核科学与工程系和材料科学与工程系的Breene M. Kerr教授Bilge Yildiz解释说。论文通信作者、巴特尔能源联盟核科学与工程系教授和材料科学与工程系教授Ju Li说:

「生物细胞中的动作电位以毫秒级尺度上升和下降,因为大约0.1伏的电压差受制于水的稳定性。"在这里,我们在一个特殊的纳米级厚度的固体玻璃薄膜上施加高达10伏的电压,该薄膜可以传导质子,而不会永久损坏它。而且,电场越强,离子设备运行速度就越快。」本文的共同作者还包括材料科学与工程系的Ellen Swallow Richards教授Frances M. Ross;博士后Nicolas Emond和Baoming Wang;以及EECS的研究生Difei Zhang。

这些可编程电阻器极大地提高了神经网络的训练速度,同时极大降低了进行训练的成本和能耗。这可以帮助科学家们更快地开发深度学习模型,应用于自动驾驶汽车、欺诈检测或医学图像分析等用途。「一旦有了模拟处理器,就不用再训练其他人正在研究的网络了。你可以训练具有前所未有的高复杂度的网络,而这种复杂度是其他人无法承受的。换句话说,这不仅仅是一辆跑得快的汽车,而是一家飞机」。论文第一作者、麻省理工学院博士后Murat Onen说。

100万倍加速深度学习

模拟深度学习之所以比其数字深度学习更快、更节能,主要有两个原因。

首先,计算是在内存中进行的,所以巨大的数据负载不会从内存来回传输到处理器。模拟处理器也以并行方式进行操作。如果矩阵扩大,模拟处理器不需要更多时间来完成新的操作,因为所有的计算都是同时进行的。麻省理工学院新的模拟处理器技术的关键元素被称为质子可编程电阻。这些电阻以纳米为单位,排列成一个阵列,就像一个棋盘。图片

纳秒级质子可编程电阻器

为了开发一种超高速、高能效的可编程质子电阻,研究人员寻找了不同的电解质材料。当其他设备使用有机化合物时,Onen却专注于无机磷硅酸盐玻璃(PSG)。PSG基本上是二氧化硅,这是一种粉状的干燥剂材料,用来除湿。

在加湿条件下,研究人员研究了它作为燃料电池的质子导体。它也是硅加工中最著名的氧化物。为了制造PSG,硅中加入了少量的磷,使其具有质子传导的特殊特性。Onen假设,优化后的PSG在室温下可以具有较高的质子导电性,且不需要水,这将使其成为理想的固体电解质。

惊人的速度

PSG能够实现质子的超快运动,因为它包含大量纳米大小的孔,这些孔的表面为质子扩散提供了路径。

What-the-Diff
What-the-Diff

检查请求差异,自动生成更改描述

下载

它还能承受非常强的脉冲电场。

Onen解释说:「这一点至关重要,因为对装置施加更多的电压可以使质子极速移动。」

Onen说:「这种速度相当令人惊讶。通常情况下,我们不会在设备上使用如此强大的磁场,以避免它们变成灰烬。但相反,质子最终以巨大的速度穿梭在设备堆上,而且还是比我们之前的速度快一百万倍。此外,由于质子体积小、质量低,这种运动不会破坏任何东西。它几乎就像传送一样。」

因为质子不会损坏材料,所以电阻器可以运行数百万个周期而不发生故障。

图片

质子可编程电阻器的超快和高能效调制特性

这种新型电解质使可编程质子电阻器的速度比以前的设备快100万倍,并且可以在室温下有效工作,这对于将其纳入计算硬件非常重要。

由于PSG的绝缘特性,当质子运动时,几乎没有电流通过材料。Onen补充说:「这使得该设备非常节能。」

del Alamo表示:「现在他们已经证明了这些可编程电阻器的有效性,研究人员计划对其进行重新设计,以实现大批量生产。然后他们可以研究电阻阵列的特性,并将其放大,以便将其嵌入到系统中。」

Yildiz补充说:「这些离子设备可以实现的另一个令人兴奋的方向是节能硬件,以模拟神经科学中推导的神经回路和突触可塑性规则,超越模拟深度神经网络。我们已经开始与神经科学进行这样的合作,得到了MIT Quest for Intelligence的支持。」

图片

del Alamo说:「 我们的合作对未来的创新至关重要。未来的道路仍然充满挑战,但同时也非常令人兴奋!」

斯坦福大学材料科学与工程副教授William Chueh说:「 诸如锂离子电池中发现的插层反应已经在存储设备中得到了广泛的探索。这项工作表明,基于质子的存储器件提供了令人印象深刻且令人惊讶的开关速度和耐用性。」

不过William Chueh并没有参与这项研究。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

443

2023.07.18

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

605

2023.08.10

li是什么元素
li是什么元素

li是HTML标记语言中的一个元素,用于创建列表。li代表列表项,它是ul或ol的子元素,li标签的作用是定义列表中的每个项目。本专题为大家li元素相关的各种文章、以及下载和课程。

436

2023.08.03

http与https有哪些区别
http与https有哪些区别

http与https的区别:1、协议安全性;2、连接方式;3、证书管理;4、连接状态;5、端口号;6、资源消耗;7、兼容性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2903

2024.08.16

Go高并发任务调度与Goroutine池化实践
Go高并发任务调度与Goroutine池化实践

本专题围绕 Go 语言在高并发任务处理场景中的实践展开,系统讲解 Goroutine 调度模型、Channel 通信机制以及并发控制策略。内容包括任务队列设计、Goroutine 池化管理、资源限制控制以及并发任务的性能优化方法。通过实际案例演示,帮助开发者构建稳定高效的 Go 并发任务处理系统,提高系统在高负载环境下的处理能力与稳定性。

22

2026.03.10

Kotlin Android模块化架构与组件化开发实践
Kotlin Android模块化架构与组件化开发实践

本专题围绕 Kotlin 在 Android 应用开发中的架构实践展开,重点讲解模块化设计与组件化开发的实现思路。内容包括项目模块拆分策略、公共组件封装、依赖管理优化、路由通信机制以及大型项目的工程化管理方法。通过真实项目案例分析,帮助开发者构建结构清晰、易扩展且维护成本低的 Android 应用架构体系,提升团队协作效率与项目迭代速度。

48

2026.03.09

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

93

2026.03.06

Rust内存安全机制与所有权模型深度实践
Rust内存安全机制与所有权模型深度实践

本专题围绕 Rust 语言核心特性展开,深入讲解所有权机制、借用规则、生命周期管理以及智能指针等关键概念。通过系统级开发案例,分析内存安全保障原理与零成本抽象优势,并结合并发场景讲解 Send 与 Sync 特性实现机制。帮助开发者真正理解 Rust 的设计哲学,掌握在高性能与安全性并重场景中的工程实践能力。

216

2026.03.05

PHP高性能API设计与Laravel服务架构实践
PHP高性能API设计与Laravel服务架构实践

本专题围绕 PHP 在现代 Web 后端开发中的高性能实践展开,重点讲解基于 Laravel 框架构建可扩展 API 服务的核心方法。内容涵盖路由与中间件机制、服务容器与依赖注入、接口版本管理、缓存策略设计以及队列异步处理方案。同时结合高并发场景,深入分析性能瓶颈定位与优化思路,帮助开发者构建稳定、高效、易维护的 PHP 后端服务体系。

412

2026.03.04

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
MUI框架基础视频教程
MUI框架基础视频教程

共13课时 | 4.2万人学习

CSS3 教程
CSS3 教程

共18课时 | 7万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号