AI芯片概述
AI芯片概述

一、AI芯片产生的背景

AI的三大关键基础要素是数据、算法和算力。随着云计算的广泛应用,特别是深度学习成为当前AI研究和运用的主流方式,AI对于算力的要求不断快速提升。AI的许多数据处理涉及矩阵乘法和加法。AI算法,在图像识别等领域,常用的是CNN;语音识别、自然语言处理等领域,主要是RNN,这是两类有区别的算法;但是,他们本质上,都是矩阵或vector的乘法、加法,然后配合一些除法、指数等算法。CPU可以拿来执行AI算法,但因为内部有大量其他逻辑,而这些逻辑对于目前的AI算法来说是完全用不上的,所以,自然造成CPU并不能达到最优的性价比。因此,具有海量并行计算能力、能够加速AI计算的AI芯片应运而生。

二、什么是AI芯片

一般的说,AI芯片被称为AI加速器或计算卡,即专门用于加速AI应用中的大量计算任务的模块(其他非计算任务仍由CPU负责)。而从广义范畴上讲,面向AI计算应用的芯片都可以称为AI芯片。除了以GPU、FPGA、ASIC为代表的AI加速芯片(基于传统芯片架构,对某类特定算法或者场景进行AI计算加速),还有比较前沿性的研究,例如类脑芯片、可重构通用AI芯片等(但距离大规模商用还有较长距离)。以GPU、FPGA、ASIC为代表的AI芯片,是目前可大规模商用的技术路线,是AI芯片的主战场,本文以下主要讨论的就是这类AI芯片。

AI芯片的分类和市场划分

:从两个维度对AI芯片进行分类

维度1:部署位置(云端、终端)

AI芯片部署的位置有两种:云端、终端。所以根据部署的位置不同,AI芯片可以分为:云AI芯片、端AI芯片。

  • 云端,即数据中心,在深度学习的训练阶段需要极大的数据量和大运算量,单一处理器无法独立完成,因此训练环节只能在云端实现。
  • 终端,即手机、安防摄像头、汽车、智能家居设备、各种IoT设备等执行边缘计算的智能设备。终端的数量庞大,而且需求差异较大。

云AI芯片的特点是性能强大、能够同时支持大量运算、并且能够灵活地支持图片、语音、视频等不同AI应用。基于云AI芯片的技术,能够让各种智能设备和云端服务器进行快速的连接,并且连接能够保持最大的稳定。端AI芯片的特点是体积小、耗电少,而且性能不需要特别强大,通常只需要支持一两种AI能力。相比于云AI芯片来说,端AI芯片是需要嵌入进设备内部的,当在设备内部中嵌入了端AI芯片之后,能够让设备的AI能力进一步提升,并且让设备在没有联网的情况之下也能够使用相应的AI能力,这样AI的覆盖变得更为全面。

维度2:承担任务(训练、推理)

AI的实现包括两个环节:训练、推理。所以根据承担任务的不同,AI芯片可以分为:用于构建神经网络模型的训练芯片,利用神经网络模型进行推理预测的推理芯片。

  • 训练,是指通过大数据训练出一个复杂的神经网络模型,即用大量标记过的数据来“训练”相应的系统,使之可以适应特定的功能。训练需要极高的计算性能,需要较高的精度,需要能处理海量的数据,需要有一定的通用性,以便完成各种各样的学习任务。
  • 推理,是指利用训练好的模型,使用新数据推理出各种结论。即借助现有神经网络模型进行运算, 利用新的输入数据来一次性获得正确结论的过程。也有叫做预测或推断。

训练芯片,注重绝对的计算能力,而推断芯片更注重综合指标, 单位能耗算力、时延、成本等都要考虑。训练将在很长一段时间里集中在云端,推理的完成目前也主要集中在云端,但随着越来越多厂商的努力,很多的应用将逐渐转移到终端。推理相对来说对性能的要求并不高,对精度要求也要更低,在特定的场景下,对通用性要求也低,能完成特定任务即可,但因为推理的结果直接提供给终端用户,所以更关注用户体验方面的优化。

猜你喜欢

  • 2022年全球IC销售额预计将超过5000亿美元

    2022年全球IC销售额预计将超过5000亿美元

    8位、32位单片机代理商深圳四强科技分享资讯:“2022年全球IC销售额预计将超过5000亿美元”。据世界半导体贸易统计协会(WSTS)最新预测报告显示,因大流行推升居家办公和线上教学所需的PC、平板需求增加,游戏机需求扩大,且智能手机5G化,网路数据通讯量呈现飞跃性增长、云端服务等基础设施的设备投资需求攀升,加上车用和产业用需求扩大,提振存储芯片、逻辑需求旺盛,因此今年全球半导体销售额预估将年增25.6%至5529.61亿美元,优于2021年6月预估的5272.23亿美元、年增19.7%,年销…

    行业动态 2021年12月7日
  • 雅特力MCU

    能替代st的mcu

    因为代工产能紧缺、报价调涨、电子产业旺季等因素影响,同时5G时代来临以及众多智能终端产品走向智能化、物联网化,造就电子行业的供需不足,许多电子元器件进入了涨价模式。加上疫情影响,国外晶圆厂、封测厂等许多工厂停工,单片机(MCU)成为了电子市场中的重要角色之一。 而ST单片机的涨幅已达2-3倍,并且交货延期。雅特力科技作为国产32位MCU的领导者,通过先进的55nm工艺,推出了百余款更高性能、丰富外设的ARM®Cortex®-M4的32位MCU,可实现ST单片机的全面替代,有效地带来成本和供货优势…

    行业动态 2021年6月3日
  • 川土微隔离芯片特点

    CA-IS37替代ISO77

    川土微CA-IS37替代TI的ISO77、ISO78、ISO72、ISO73、ISO74/75/76系列。 CA-IS37系列芯片是专门为智能电表(IR46)开发的数字隔离器芯片。该系列具有高达 10 kV 的浪涌和高达 8 kV的 ESD,隔离耐压高达 5 kVRMS,CMTI 高达±150 kV/µs。支持客户根据应用场景选择开漏输出或推挽输出型号。 CA-IS37系列器件具有高绝缘能力,有助于防止数据总线或其他电路上的噪声和浪涌进…

    行业动态 2021年7月20日
  • 川土微隔离芯片特点

    CA-IS3720LW替代ADuM2285ARIZ

    川土微CA-IS3720LW替代ADuM2285ARIZ,CA-IS372X是一款高性能2通道数字隔离器具有精确的时序特性和低电源损耗。在隔离CMOS数字I/O时,CA-IS372X器件可提供高电磁抗扰度和低辐射。 所有器件版本均具有施密特触发器输入,可实现高抗噪性能。每条隔离通道的逻辑输入和输出缓冲器均由二氧化硅(SiO2) 绝缘栅隔离。  CA-IS3720器件具有两个前向双通道,CA-IS3721一个前向一个反向两个通道, CA-IS3722和CA-IS372…

    行业动态 2021年8月2日
  • AT32F407系列替代GD32F307系列

    AT32F407系列替代STM32F107系列

    雅特力AT32F407系列高效能微控制器,搭载32位ARM® Cortex®-M4内核,配合先进制程可达超高效能240MHz的运算速度。 内建的单精度浮点运算单元(FPU)及数字信号处理器(DSP),搭配丰富的外设及灵活的时钟控制机制,能满足多种领域应用。 完善的内存设计,最高可支持1MB闪存存储器(Flash)及224KB随机存取存储器(SRAM), 其闪存存储器执行零等待的优异表现,超越业界同级芯片水平。 雅特力AT32F407系列除集成高效能的运算效能外,也导入sLib安全库(Securi…

    行业动态 2021年8月30日
  • 国产芯片制造

    国产芯片制造

    芯片制造技术是当下最难的技术之一,也正是因为如此,芯片产业高度全球化,而能够生产制造先进制程芯片的企业,就那么几家。据悉,芯片制造技术难,主要难在四点。 第一点是芯片设计,要想设计好芯片,必须要有好的芯片设计软件,全球范围内芯片企业,很多都是采用EDA设计芯片,即便是华为也不例外。 第二点是芯片原材料,芯片是由硅制造成的,但要提取高纯度的硅,需要很高端的技术。 第三点就是芯片制造技术,只有掌握的先进的芯片制造技术,才能够制造7nm、5nm等先进制程芯片,英特尔是芯片元老,因为技术不过关,至今不能…

    行业动态 2021年8月20日
  • 川土微隔离芯片特点

    CA-IS3720LS替代ISO7420FCCD

    川土微CA-IS3720LS替代ISO7420FCCD,CA-IS372X是一款高性能2通道数字隔离器具有精确的时序特性和低电源损耗。在隔离 CMOS 数字 I/O 时,CA-IS372X器件可提供高电磁抗扰度和低辐射。 所有器件版本均具有施密特触发器输入,可实现高抗噪性能。每条隔离通道的逻辑输入和输出缓冲器均由二氧化硅(SiO2)绝缘栅隔离。  CA-IS3720器件具有两个前向双通道,CA-IS3721一个前向一个反向两个通道, CA-IS3…

    行业动态 2021年7月31日
  • 代理锦锐

    四强科技正式代理锦锐C&A全线产品

    四强科技正式代理锦锐C&A全线产品,双方紧密合作,主要产品有8位Flash MCU、触摸IC、DAB模组、AM/FM收音芯片。 主要应用到产品:家电控制、照明、玩具等。 成熟量产方案:电磁炉、油烟机、洗衣机控制,照明台灯控制、雾化器、时钟呼吸灯、无线充电器、电子烟等。

    新闻中心 2021年4月16日
  • 雅特力32位单片机

    雅特力32位单片机

    雅特力MCU全系列具有sLib安全库(Security Library)功能,可支持密码保护指定范围程序区,方案商烧录核心算法到此区域,提供给下游客户做二次开发。AT32系列MCU相较于全球市场中的M0/M3 32位MCU,可带来效能大幅性能提升,同时满足设计灵活性、安全性、可靠性的多样化挑战。 广泛应用于微打印机、智能扫地机、手持云台、无人机、舞台灯光、电子白板、机器人控制、指纹识别、BLDC电机、对讲机,以及各类工业、消费电子等应用。 推荐产品: AT32F403A系列 AT32F403A系…

    行业动态 2021年8月18日
  • 雅特力AT32MCU

    at32f雅特力

    at32f雅特力全系列具有sLib安全库(Security Library)功能,可支持密码保护指定范围程序区,方案商烧录核心算法到此区域,提供给下游客户做二次开发。AT32系列MCU相较于全球市场中的M0/M3 32位MCU,可带来效能大幅性能提升,同时满足设计灵活性、安全性、可靠性的多样化挑战。 广泛应用于微打印机、智能扫地机、手持云台、无人机、舞台灯光、电子白板、机器人控制、指纹识别、BLDC电机、对讲机,以及各类工业、消费电子等应用。 推荐产品: AT32F403A系列 AT32F403…

    行业动态 2021年7月2日
联系我们

联系我们

0755-2877-1865

在线咨询:点击这里给我发消息

技术咨询:131 6893 8277

工作时间:周一至周日,9:00-22:30,节假日不休

微信咨询
微信咨询
分享本页
返回顶部