燧原科技进军AI边缘领域,携手浪潮推出边缘AI推理服务器


原标题:燧原科技进军AI边缘领域,携手浪潮推出边缘AI推理服务器
燧原科技确实已经进军AI边缘领域,并与浪潮携手推出了边缘AI推理服务器。以下是对这一事件的详细阐述:
一、合作背景与产品推出
燧原科技,一家专注于人工智能领域云端和边缘算力产品的公司,为了拓展其业务至AI边缘推理领域,与浪潮集团进行了合作。双方共同推出了基于燧原科技首款人工智能推理产品“云燧i10”的浪潮边缘计算服务器“NE5260M5”。这一合作标志着燧原科技在AI边缘推理领域的正式布局。
二、产品特点与性能
云燧i10:
是一款面向云端数据中心的高性能推理卡,单槽位标准卡,支持PCIe 4.0。
在算力方面,FP32算力达到17.6TFLOPS,BF16/FP16算力高达70.4TFLOPS。
实现多用户支持,最大可支持4个设备实例,具备计算与存储资源的独享性,多用户间安全隔离。
单颗芯片上可同时部署不同的业务与负载,实现多任务并行,提高利用率。
支持KVM、Xen等系统虚拟化平台。
浪潮边缘计算服务器NE5260M5:
高度为2U,深度仅430毫米,可部署在通信机房或直接悬挂在墙壁上,适应边缘环境的需求。
支持多种异构加速卡,并且各个模块具有良好的散热效果,能够很好适应边缘恶劣的高温湿环境。
可根据客户需求支持2-4张云燧i10,提供高达每秒70万亿次的单精度算力和280万亿次的半精度算力,高精度主流推理模型的性能位居业界前列。
三、应用场景与优势
该边缘AI推理服务器可广泛应用于多种场景,如自动驾驶、智慧交通、ETC识别、精密仪器预测性维护、AI工业质检等。在这些场景中,服务器能够提供强大的算力支持,实现低延迟、高吞吐量的人工智能推理。
此外,该服务器还具有以下优势:
高精度:在计算机视觉领域中,可实时高速图像视觉处理,广泛应用于工厂AI质检、场景识别、智能交通等应用。在图像识别场景中,基于ImageNet图像数据集,准确率超过75.9%,推断性能超过3000FPS。
高性能:在视频增强场景中,可实时进行视频分辨率增强,服务器处理性能可达240FPS。在自然语言处理领域中,可应用于文本分类、舆情监管、智能客服等场景。在电商、短视频推荐场景中,可实现精准、高效、实时的目标内容投放。
灵活性:为边缘环境提供更加灵活的加速选择,满足各种边缘AI推理应用的需求。
四、市场影响与未来展望
燧原科技与浪潮的合作以及边缘AI推理服务器的推出,将进一步推动AI向边缘场景的产业化落地,驱动各行业的数字化、智慧化转型。随着5G和AI技术的不断发展,边缘AI推理的应用场景将越来越广泛,市场需求也将持续增长。燧原科技将继续深耕AI边缘领域,推出更多创新产品和技术,为各行业的智能化转型提供有力支持。
综上所述,燧原科技进军AI边缘领域并与浪潮携手推出边缘AI推理服务器,是其在AI领域的重要布局之一。该服务器的推出将进一步提升燧原科技在AI边缘推理领域的竞争力,为各行业的智能化转型提供强大支持。
责任编辑:
【免责声明】
1、本文内容、数据、图表等来源于网络引用或其他公开资料,版权归属原作者、原发表出处。若版权所有方对本文的引用持有异议,请联系拍明芯城(marketing@iczoom.com),本方将及时处理。
2、本文的引用仅供读者交流学习使用,不涉及商业目的。
3、本文内容仅代表作者观点,拍明芯城不对内容的准确性、可靠性或完整性提供明示或暗示的保证。读者阅读本文后做出的决定或行为,是基于自主意愿和独立判断做出的,请读者明确相关结果。
4、如需转载本方拥有版权的文章,请联系拍明芯城(marketing@iczoom.com)注明“转载原因”。未经允许私自转载拍明芯城将保留追究其法律责任的权利。
拍明芯城拥有对此声明的最终解释权。