目前有哪些国产GPU支持DeepSeek?国产GPU支持的DeepSeek模型的性能如何?DeepSeek模型与其他模型相比有什么优势?没有CUDA的GPU可以部署Deepseek

有很多国产GPU支持DeepSeek,以下是一些典型代表:
1.景嘉微
    JM系列:适配了DeepSeek-R1-Distill-Qwen-1.5B和DeepSeek-R1-Distill-Qwen-7B模型。
    景宏系列:全面兼容DeepSeek R1全系列模型,覆盖从1.5B至70B参数规模的LLaMA及千问模型架构。

2.摩尔线程
    MTT S80、MTT S4000显卡:可进行DeepSeek-R1蒸馏模型的推理部署。
    夸娥(KUAE)GPU集群:全面支持DeepSeek系列模型,包括V3、R1及蒸馏模型。

3.华为昇腾:昇腾系列芯片通过昇腾全栈AI软硬件平台及CANN计算架构,与DeepSeek云的底层基础设施深度融合,支持DeepSeek系列新模型。

4.沐曦:联合中国开源大模型平台Gitee AI发布了全套DeepSeek-R1千问蒸馏模型,首批上线1.5B、7B、14B、32B四个较小规模的模型,均部署在国产沐曦曦云GPU上。

5.天数智芯:成功适配DeepSeek R1千问蒸馏模型,与Gitee AI合作,上线了多个大模型服务,包括1.5B、7B、14B等版本。

6.燧原科技:适配了DeepSeek-R1/V3 671B原生模型、DeepSeek-R1-Distill-Qwen-1.5B/7B/14B/32B、DeepSeek-R1-Distill-Llam

你可能感兴趣的:(AI,DeepSeek,GPU,人工智能)