产品概述:
Atlas 300I A2 推理卡提供强劲AI推理能力,具有超强算力、视频分析等优势,可广泛应用于生成式大模型推理、内容审核等多场景,支持最高560 TOPS INT8 和 280 TFLOPS FP16算力,加速大模型推理深入行业。
性能特点:
超强算力:提供业界领先的560 TOPS INT8算力;提供业界领先的280 TFLOPS FP16算力;支持 8 core * 2.0 GHz CPU计算能力
高速带宽:最大支持1.6 TB/s内存带宽;支持PCIe 5.0高速接口
适用领域:
集成于服务器中,进行AI推理。支持主流的AI大模型,广泛用于内容生成,智能问答,智能客服,内容审核的场景。
推荐理由:
Atlas 300I A2 推理卡提供强劲AI推理能力,具有算力高、片上内存大等优势,可广泛应用于生成式大模型推理、互联网推荐审核等场景,加快深度学习网络推理进程。






资讯频道