三星首发 HBM-PIM 内存计算技术,今年上半年可完成验证并交付


原标题:三星首发 HBM-PIM 内存计算技术,今年上半年可完成验证并交付
三星确实首发了HBM-PIM内存计算技术,并计划在今年上半年完成验证并交付。以下是对该技术的详细解析:
一、技术概述
HBM-PIM(High Bandwidth Memory-Processing In Memory)是三星面向AI人工智能市场推出的一项新技术。这项技术是在HBM(高带宽存储器)芯片上集成了AI处理器的功能,从而实现了业界第一个高带宽内存集成人工智能处理能力的芯片。
二、技术优势
高性能:
据三星介绍,HBM-PIM技术可以提供两倍多的系统性能。这主要得益于其将DRAM优化的AI引擎放在每个内存库(存储子单元)内,从而实现了并行处理并最大限度地减少了数据移动。
低功耗:
与传统架构相比,HBM-PIM技术可以将功耗降低71%。这一优势使得该技术在需要高性能和低功耗的AI应用中具有广阔的应用前景。
易于集成:
三星表示,HBM-PIM技术不需要任何硬件或软件更改,因此可以更快地集成到现有系统中。这降低了技术应用的门槛,使得更多企业和开发者能够利用这一技术来提升系统性能。
三、应用前景
AI加速器:
HBM-PIM技术目前正在人工智能加速器内进行测试,预计将在今年上半年完成验证并交付。这意味着该技术有望很快被应用于AI加速器中,进一步提升AI系统的性能和效率。
生成式人工智能:
三星已与AMD合作,在AMD的商用GPU加速卡MI-100上配备了HBM-PIM内存,并将其应用于生成式人工智能。实验结果显示,与现有HBM相比,配备了HBM-PIM的GPU的性能和功效提高了一倍以上。
解决内存瓶颈:
随着人工智能行业的快速发展,内存瓶颈问题日益凸显。HBM-PIM等下一代内存技术通过PIM技术可以在存储器本身内进行计算处理,从而有效消除存储单元与计算单元之间的数据吞吐,提高性能和能效。
四、研发进展
论文发表:
三星关于HBM-PIM的论文被选为在著名的国际固态电路虚拟会议(ISSCC)上发表。这体现了三星在内存计算技术领域的领先地位和创新能力。
合作伙伴测试:
目前,三星的HBM-PIM技术正在由领先的AI解决方案合作伙伴进行测试。这些合作伙伴将验证技术的可行性和性能表现,为后续的商业化应用奠定基础。
综上所述,三星首发的HBM-PIM内存计算技术具有显著的性能提升和低功耗优势,且易于集成到现有系统中。该技术有望在AI加速器、生成式人工智能等领域得到广泛应用,并解决人工智能行业中的内存瓶颈问题。随着研发进展的推进,HBM-PIM技术有望为人工智能行业带来更大的创新和发展机遇。
责任编辑:
【免责声明】
1、本文内容、数据、图表等来源于网络引用或其他公开资料,版权归属原作者、原发表出处。若版权所有方对本文的引用持有异议,请联系拍明芯城(marketing@iczoom.com),本方将及时处理。
2、本文的引用仅供读者交流学习使用,不涉及商业目的。
3、本文内容仅代表作者观点,拍明芯城不对内容的准确性、可靠性或完整性提供明示或暗示的保证。读者阅读本文后做出的决定或行为,是基于自主意愿和独立判断做出的,请读者明确相关结果。
4、如需转载本方拥有版权的文章,请联系拍明芯城(marketing@iczoom.com)注明“转载原因”。未经允许私自转载拍明芯城将保留追究其法律责任的权利。
拍明芯城拥有对此声明的最终解释权。