国产算力服务器FANA+B

国产算力服务器FANA+B

• 面向垂直行业的大模型推理16卡服务器

• 支持主流大模型(Llama / ChatGLM)

• 单机可达 > 12000 token/s 处理能力

• 性价比高，行业优良的综合使用成本

算力性能 3072T@INT8，1536T@FP16，384T @FP32

显存容量：>300GB

CPU 2*6330@2.0GHz

网络：双卡万兆网卡

操作系统：UBUNTU

GPU工具：CUDA+

AI框架：Pytorch Tensorflow Mxnet 等