Sondrel推出标准化模块进一步加速ASIC设计进程


原标题:Sondrel推出标准化模块进一步加速ASIC设计进程
燧原科技发布的业内带宽最大的云端AI推理卡“云燧i20”是一款具有显著技术优势和广泛应用前景的产品。以下是对该产品的详细介绍:
一、产品概述
产品名称:云燧i20
发布时间:2021年12月7日
发布公司:上海燧原科技有限公司
产品定位:第二代人工智能推理加速卡
二、技术特点
高带宽:
云燧i20拥有迄今为止业内最大的AI加速卡存储带宽,高达819 GB/s,远超行业同类产品水平。(数据来源:百度百科)
高算力:
全面支持从FP32、TF32、FP16、BF16到INT8的计算精度。
单精度FP32峰值算力达到32 TFLOPS,单精度张量TF32峰值算力达到128 TFLOPS,整型INT8峰值算力达到256 TOPS。(数据来源:百度百科)
相较于第一代推理产品,云燧i20将浮点算力提升到1.8倍,整型算力提升到3.6倍。(数据来源:燧原科技官网)
高效能:
高吞吐、低延时,满足云端AI的多种需求。
采用PCIe 4.0×16接口规格,16GB HBM2E内存容量,最大150W功耗。(数据来源:百家号)
广泛支持:
支持175+主流模型,包括视觉、语音、自然语言处理等主流场景。
原生支持开源推理框架ONNX,支持国产ARM64服务器平台,支持国产Linux操作系统。(数据来源:百家号)
核心技术:
四大核心技术(SuperFusion、SuperQuanti、SuperDynamics以及SuperTuner)支持模型多层算子超级融合,支持推理的低精度量化和混合精度,支持AI应用和算法的动态性,支持面向数据流的自适应性能优化策略,充分释放算力。(数据来源:百家号)
三、应用场景
云燧i20可广泛应用于计算机视觉、语音识别与合成、自然语言处理、搜索与推荐等推理场景。它能够满足大语言模型、搜广推及传统模型的需求,具有模型覆盖面广、易用性强、易迁移易部署等特点。(数据来源:燧原科技官网)
四、市场反响
云燧i20的发布引起了业界的广泛关注。它不仅在技术上实现了突破,还在实际应用中展现了强大的性能。随着人工智能技术的不断发展,云燧i20有望在更多领域发挥重要作用,推动人工智能技术的普及和应用。
综上所述,燧原科技发布的云燧i20是一款具有显著技术优势和广泛应用前景的云端AI推理卡。它的高带宽、高算力、高效能以及广泛支持等特点使其在市场上具有强大的竞争力。
责任编辑:
【免责声明】
1、本文内容、数据、图表等来源于网络引用或其他公开资料,版权归属原作者、原发表出处。若版权所有方对本文的引用持有异议,请联系拍明芯城(marketing@iczoom.com),本方将及时处理。
2、本文的引用仅供读者交流学习使用,不涉及商业目的。
3、本文内容仅代表作者观点,拍明芯城不对内容的准确性、可靠性或完整性提供明示或暗示的保证。读者阅读本文后做出的决定或行为,是基于自主意愿和独立判断做出的,请读者明确相关结果。
4、如需转载本方拥有版权的文章,请联系拍明芯城(marketing@iczoom.com)注明“转载原因”。未经允许私自转载拍明芯城将保留追究其法律责任的权利。
拍明芯城拥有对此声明的最终解释权。