法国施耐德模块CPUPC-0984-385

法国施耐德模块CPUPC-0984-385

在人工智能以及针对各种截然不同的终端市场和系统而设计的机器学习芯片快速发展的推动下，人们可选择的存储器/体系架构数量呈现爆炸式增长。

在这些系统中，某些系统的模型参数大小可能在100亿到1000亿之间，并且芯片或应用之间的差异可能会非常大。神经网络的训练和推理是当今复杂的工作负载之一，这使得很难找到的存储解决方案。这些系统消耗了大量的计算资源（主要是使用乘法累加运算）以及大量内存带宽。系统任何一个环节的减速都可能对整个系统产生影响。

这给内存开发人员带来了巨大的压力，要求他们以的功耗、面积和成本提供尽可能多的带宽。这一趋势当前并没有减弱的迹象。神经网络模型规模逐年增长，为了训练这些模型，数据集也在不断增长。

“这些模型的规模和训练集的大小每年都以大约一个数量级的速度增长，”来自Rambus公司的杰出发明家、研究员StevenWoo说。“今年年初，当的自然语言处理模型问世时，它具有大约170亿个参数，这个数字够大了吧，但是，今年夏天又出现了一个更新的版本，参数的数量居然上升到了1750亿。也就是说，大约七个月的时间，参数的数量就增加了整整10倍。”

20世纪80年代和90年代初的神经网络模型大约有100到1，000个参数。“如果我有一个更大的模型，我需要更多的样本来训练它，因为每个参数都必须调整，”StevenWoo说。“对于那些在技术领域缺乏耐心的人来说，当您拥有更多数据时，您不想再在训练上等待那么长的时间。的出路是是拥有更多带宽。您必须能够更快地将这些数据推送到系统中，并更快地将其提取出来。带宽是头等大事。”

另一个问题是能源。Woo表示：“如果您要做的只是将性能提高一倍，同时所消耗的电量也增加一倍，那么，生活就会很美好。但是，这不是它的运作方式，您实际上需要非常在乎功率问题，因为您墙上的电源插座只能承受这么大的功率。事实是，人们确实希望将性能提高X倍，但同时他们希望能将能源效率提高2X倍，这就是让事情变得困难的地方。”

这种权衡在AI推理应用方面更加困难。“今天，AI/ML的训练和推理之间的鸿沟越来越大，”CadenceIP集团产品市场部总监MarcGreenberg指出。“训练需要大的内存带宽，并且通常是在功能强大的服务器类型的机器或非常的GPU卡上进行的。在训练领域中，我们发现，高阶训练使用HBM内存，而低阶训练使用GDDR6内存。HBM存储器特别擅长以的单bit能量提供的带宽。HBM2/2E内存可以在AI/ML处理器与每个存储器堆栈之间提供高达每秒3.2/3.6TB的内存带宽，而即将发布的HBM3标准则有望提供更高的带宽。”

成本权衡

这种性能当然是有代价的。Greenberg指出：“HBM作为一种解决方案，有一个与之匹配的高价格自然无可厚非，这意味着HBM可能会继续部署在服务器机房和其他应用中。GDDR6技术有助于降低成本，当今的器件可以通过技术以16Gbps的数据速率提供每秒512Gbit/s的速度，而且将来会出现更快的数据速率。用户将其中多个器件并行放置也很常见。例如，某些图形卡可以并行使用10个或更多GDDR6部件，以达到5Tbps速度甚至更高的带宽。”

 石屹公司涉及产品广泛拥有:

PLC、电力电缆、变频器、人机界面、CPU、调速器、触摸屏，伺服，电源、电机、数控、低压配电,接触器、按钮、传感器、断路器,继电器、传感器、温控器、软启动、仪器仪表, 以及其他电工电器自动化设备。

同时本公司还专业销售:美国罗克韦尔AB（Rockwell-Automation Allen-Bradley）、丹麦丹佛斯（Danfoss)、法国施耐德(Schneider Electric)、德国西门子（SIEMENS)、瑞士ABB、美国通用GE、日本法那克FANUC、日本安川YASKAWA、德国库卡KUKA、日本OTC、日本松下Panasonic、美国NI, 德国SEW, 德国西克SICK,美国摩托罗拉MOTOMAN、德国菲尼克斯PHOENIX、德国魏德米勒Weidmuller、日本三菱 MITSUBISHI、美国伊顿EATON、美国阿美特克AMETEK、德国阿*ATLAS、美国HP/Agilent、德国阿尔法Alpha, 德国Bosch Rexroth博世力士乐、日本CKD、日本SMC日本*CONTEC、美国卡特拉-汉莫CUTLER HAMMER、日本富士FUJI、德国倍加福P+F、美国 MKS、美国福克斯波罗 Foxboro Invensys(英维思) 、日本欧姆龙OMRON、德国德玛格DEMAG、德国费斯托FESTO、德国巴鲁夫BALLUFF、德国图尔克TURCK、等等的高低压电器及工业自动化控制元件。

 1747-AENTR

1747-BA

1747-BAJMPR

1747-C10

1747-C11

1747-C13

1747-C20

1747-CP3

1747-DU501

1747-FC

1747-KY1

1747-L531

1747-L532

1747-L541

1747-L542

1747-L543

1747-L551

1747-L552

1747-L553

1747-M13

1747-M15

1747-OS302

1747-OS401

1747-RL302

1747-SDN

1747-SN

1747-UIC