甲基异丁基甲醇生产工艺 异戊二醇是什么东西
2023-08-08
很多朋友对信息技术图片内存的计算公式,使用RISC-V和内存结构的开放式计算不是很了解,每日小编刚好整理了这方面的知识,今天就来带大家一探究竟。
在过去的几年里,我们目睹了数据生成、处理和进一步利用以获得附加价值和智能的方式发生了巨大变化,所有这些都受到了基于深度学习和神经网络应用的新计算模型的影响。这种深刻的变化始于数据中心。深度学习技术用于提供对海量数据的洞察,主要用于分类和/或识别图像,实现自然语言或语音处理,或者理解、生成或成功学习如何玩复杂的游戏。策略游戏。
这种变化也带来了一波更节能的计算设备(基于GP-GPU和FPGA),这些设备是专门为这类问题创建的,后来还包括完全定制的ASIC。
大数据和快速数据
大数据应用使用专业的GP-GPU、FPGA和ASIC处理器,通过深度学习技术分析大数据集,揭示趋势、模式和关联,从而实现图像识别和语音识别。因此,大数据主要基于过去的信息或通常驻留在云中的残留数据。大数据分析的一个常见结果是,“训练有素”的神经网络可以执行特定的任务,例如识别和标记图像或视频序列中的所有人脸。语音识别也展示了神经网络的力量。
这项任务最好由专门的引擎(或推理引擎)执行,这些引擎直接驻留在边缘设备上,由快速数据应用程序领导(图1)。通过处理在边缘本地捕获的数据,Fast Data利用源自大数据的算法来提供实时决策和结果。
因为大数据提供了从“发生了什么”到“可能会发生什么”(预测分析)的洞察,所以快速数据提供了可以改善业务决策、运营和减少低效的实时行动,而这些行动总是会影响底线结果。这些方法可适用于各种边缘和存储设备,如相机、智能手机和固态硬盘。
计算数据
新的工作负载基于两种场景:(1)在特定工作负载上训练大规模神经网络,例如图像或语音识别;(2)将训练好的(或“适合的”)神经网络应用于边缘设备。这两种工作负载都需要大量的并行数据处理,包括大型矩阵的乘法和卷积。这些计算函数的最佳实现需要对大型向量或数据数组进行操作的向量指令。
RISC-V是非常适合这类应用的架构和生态系统,因为它提供了开源软件支持的标准化流程,使开发者能够完全自由地采用、修改甚至添加专有矢量指令。图1概述了突出的RISC-V计算架构机会。
移动数据
边缘快数据和计算的出现,产生了一个事实结果,就是把所有数据来回移动到云端进行计算分析,效率很低。首先,它涉及到通过移动网络和以太网进行远距离传输时相对较大的数据延迟,对于必须实时运行的图像或语音识别应用来说,这不是最佳选择。其次,边缘计算允许更可扩展的架构,其中可以以可扩展的方式在SSD上执行图像和语音处理或内存计算操作。
因此,每个增加的边缘设备将带来所需计算能力的递增。数据移动模式和时间的优化是新架构可扩展性的关键因素。
[图1 |大数据、快速数据和RISC-V机遇]
在图1a中,云数据中心服务器使用深度学习神经网络来训练大数据集以执行机器学习。在图1b中,边缘的安全摄像机使用由大数据训练的推理引擎,并实时识别图像(快速数据)。在图1c中,智能SSD设备使用推理引擎来识别和分类数据,这有效地利用了设备的带宽。
因为图1显示了RISC-V内核的潜在机会,它可以自由添加专有的和未来标准化的向量指令,这些指令有助于处理深度学习和推理技术。
另一个类似且重要的数据移动和访问趋势存在于大数据端和云中(图2)。传统的计算机架构(图2a)利用慢速外围总线连接到许多其他设备(如专用机器学习加速器、显卡、快速固态硬盘、智能网络控制器等。).慢速总线通过限制总线本身、主CPU以及主内存和潜在的永久内存之间的通信能力来影响设备利用率。
这种新的计算设备也不可能在它们之间或与主CPU共享内存,这将导致浪费和通过慢速总线的有限数据移动。
关于如何改善不同计算设备(如CPU、计算和网络加速器)之间的数据移动,以及如何访问内存或快速存储中的数据,有几个重要的行业趋势。这些新趋势侧重于开放标准化,以提供更快、更低延迟的串行结构和更智能的逻辑协议,从而实现对共享内存的一致访问。下一代以数据为中心的计算
未来的架构将需要为连接到计算加速器的持久内存和支持缓存一致性的快速总线(如TileLink、RapidIO、OpenCAPI和Gen-Z)部署开放接口,这不仅可以显著提高性能,还可以使所有设备共享内存,减少不必要的数据移动。[图2 |计算架构中的数据移动和访问]
在图2a 中,由于用于快速存储和计算加速设备的外围总线速度较慢,传统计算架构已达到其极限。在图2b 中,未来的计算架构部署开放接口,提供平台中所有计算资源对共享持久内存的统一缓存一致访问(称为以数据为中心的架构)。在图2c 中,部署的设备能够利用相同的共享内存,从而减少不必要的数据复制。
CPU 非核心和网络接口控制器的作用将成为移动数据的关键推动力。CPU 非核心组件必须支持关键内存和持久内存接口(例如NVDIMM-P),以及靠近CPU 的内存。还需要实施用于计算加速器、智能网络和远程持久内存的智能和快速总线。
总线上的任何设备(例如CPU、通用或专用计算加速器、网络适配器、存储或内存)都可以包含自己的计算资源,并能够访问共享内存(图2b 和2c)。
为了优化数据移动,RISC-V 技术可以成为关键推动因素,因为它将在所有计算加速器设备上为新的机器学习工作负载实施矢量指令。它启用了支持开放内存和智能总线接口的开源CPU 技术,并实现了具有连贯共享内存的新的以数据为中心的架构。
用RISC-V 解决挑战
大数据和快速数据带来了未来的数据移动挑战,为RISC-V 指令集架构(ISA) 及其开放的模块化方法铺平了道路,非常适合作为以数据为中心的计算架构的基础。它提供了以下能力:
扩展边缘计算设备的计算资源
添加新指令,例如用于关键机器学习工作负载的向量指令
将小型计算核心定位在非常靠近存储和内存介质的位置
启用新的计算范式和模块化芯片设计
启用以数据为中心的新架构,其中所有处理元素都可以连贯地访问共享持久内存,优化数据移动
RISC-V由超过一百个组织的成员开发,包括一个软件和硬件创新者的协作社区,他们可以使ISA 适应特定目的或项目。加入该组织的任何人都可以根据伯克利软件分发(BSD) 许可设计、制造和/或销售RISC-V 芯片和软件。
最后的想法
为了实现其价值和可能性,需要捕获、保存、访问和转换数据以充分发挥其潜力。具有大数据和快速数据应用程序的环境已经超过了通用计算架构的处理能力。未来以数据为中心的极端应用程序需要专门构建的处理,以开放的方式支持数据资源的独立扩展。
拥有一个以存储在持久内存中的数据为中心的通用开放计算机架构,同时允许所有设备发挥计算作用,是这些新的可扩展架构的关键推动因素,这些架构由一类新的机器学习计算工作负载驱动。跨所有云和边缘部分的下一代应用程序将需要这种新型的低能耗处理,因为专业计算加速处理器专注于手头的任务,减少移动数据的浪费时间,或执行与数据。
人、社区和我们的星球通过数据的力量、潜力和可能性而蓬勃发展。
审核郭婷
以上知识分享希望能够帮助到大家!
版权声明:本站所有作品图文均由用户自行上传分享,仅供网友学习交流。若您的权利被侵害,请联系我们
推荐阅读
2023-08-08
2023-08-08
2023-08-08
2023-08-08
2023-08-08
2023-08-08
2023-08-08
2023-08-08
2023-08-08
2023-08-08
2023-08-08
2023-08-08
2023-08-08
栏目热点
甲基异丁基甲醇生产工艺 异戊二醇是什么东西
LilyGoT手表键盘C3迷你电脑套件
索泰ZBOXEdgeCI342迷你电脑正式上市
谷歌在最新的视频预告片中展示了PixelWatch的独特设计
三星与设计师Juun.J合作推出限量版可折叠产品和配件
从2023年起Fitbit设备将需要Google帐户
TOKKCAMC2+智能WiFi独立日 夜视摄像头
三星正在与全球时尚品牌JUUN.J合作
OnePlusNordWatch的颜色选项通过泄露的渲染揭示
就在第一款Nothing手机发布之前一种新的TWS芽设计浮出水面