新闻

中外多家算力芯片公司宣布适配DeepSeek

by 2025-02-07 14:02:33

春节假期期间,DeepSeek的爆火如“平地一声雷”。这家于2023年成立的人工智能基础技术研究企业,在今年1月20日正式开源其R1推理模型,该模型在数学、代码、自然语言推理等任务上,性能比肩OpenAI o1正式版,且开发成本仅为600万美元,仅相当于(yú)OpenAI 的 O1 模型开发成本的1.2% 。DeepSeek于2024年12月26日宣布上线并同步开源的DeepSeek-V3模型,以1/11的算力、仅2000个GPU芯片训练出性能超越GPT-4o的大模型,且训练成本仅相当于GPT-4o的5.6%。

业内(nèi)人(rén)士(shì)表(biǎo)示(shì),DeepSeek此(cǐ)举(jǔ)开(kāi)拓(tà)出(chū)高(gāo)性(xìng)能(néng)模(mó)型(xíng)训(xun)练(liàn)的(de)新(xīn)思(sī)路,其(qí)以(yǐ)低(dī)成(chéng)本(běn)实(shí)现(xiàn)大(dà)模(mó)型(xíng)训(xun)练(liàn),也(yě)引(yǐn)发(fā)了(le)业(yè)界(jiè)对(duì)海(hǎi)外(wài)AI企(qǐ)业(yè)耗(hào)费(fèi)巨(jù)量(liàng)算(suàn)力(lì)资(zī)源(yuán)训练模型必要性的怀疑。近日,多家中外算力芯片企业纷纷发布适配DeepSeek模型的消息。

燧原科技:实现全国各地智算中心DeepSeek的全量推理服务部署

2月6日,燧原科技宣布,完成了对DeepSeek全量模型的高效适配,包括DeepSeek-R1/V3 671B原生模型、DeepSeek-R1-Distill-Qwen-1.5B/7B/14B/32B、DeepSeek R1-Distill-Llama-8B/70B等蒸馏模型。截至目前,DeepSeek的全量模型已在庆阳、无锡、成都等智算中心完成了数万卡的快速部署。

华为:支持DeepSeek系列模型“一键获取”、“开箱即用”

2月5日,华为技术有限公司宣布,DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro正式上线昇腾社区,支持一键获取DeepSeek系列模型,支持昇腾硬件平台上开箱即用。

image001.jpg

DeepSeek系列模型上线昇腾社区

海光信息:DCU适配三大模(mó)型(xíng),相(xiāng)关模(mó)型(xíng)已(yǐ)正(zhèng)式(shì)上(shàng)线(xiàn)

2月(yuè)4日(rì),海(hǎi)光(guāng)信(xìn)息(xi)宣(xuān)布(bù),其(qí)技(jì)术(shù)团(tuán)队(duì)成(chéng)功(gōng)完成DeepSeek V3和R1模型与海光DCU(深度计算单元)的适配,并正式上线。2月5日,海光信息宣布其技术团队成功完成DeepSeek-Janus-Pro多模态大模型与海光DCU的适配优化,并正式上线。因DCU采用了GPGPU通用加速计算架构,DeepSeek模型可直接在DCU上运行,并不需要大量适配工作,技术团队的主要工作是进行精度验证和持续的性能优化。本次适配优化的DeepSeek-Janus-Pro模型具备跨模态理解与生成能力,专注于结合视觉与语言理解能力,旨在处理更复杂的跨模态任务。

image002.jpg

Janus-Pro生成示例(图源:海光信息)

天数智芯:一天完成DeepSeekR1适配(pèi)

2月(yuè)4日,天数智芯与 Gitee AI 联合发布消息,成功完成了与 DeepSeek R1 的适配工作,并且已正式上线多款大模型服务,其中包括 DeepSeek R1-Distill-Qwen-1.5B、DeepSeek R1-Distill-Qwen-7B、DeepSeek R1-Distill-Qwen-14B等,其过程仅耗时1天。

image003.jpg

天(tiān)数(shù)智(zhì)芯(xīn)上(shàng)线(xiàn)多(duō)个(gè)DeepSeek大(dà)模(mó)型(xíng)服(fú)务(wu)

摩(mó)尔(ěr)线(xiàn)程(chéng):已(yǐ)部(bù)署(shǔ)DeepSeek蒸(zhēng)馏(liú)模(mó)型(xíng)推理服务

2月4日,摩尔线程宣布实现了对DeepSeek蒸馏模型推理服务的部署。基于Ollama开源框架,完成了对DeepSeek-R1-Distill-Qwen-7B蒸馏模型的部署,并在多种中文任务中展现(xiàn)了(le)优(yōu)异(yì)的(de)性(xìng)能(néng)。用(yòng)户也可以基于MTT S80和MTT S4000进行DeepSeek-R1蒸馏模型的推理部署。

英特尔:支持AI PC本地部署

1月31日,英特尔宣布,DeepSeek目前能够在英特尔产品上运行,更可以在AI PC上实现离线使用,强调DeepSeek的本地部署能力。DeepSeek的蒸馏模型在至强和Gaudi平台上得到了支持,能够帮助客(kè)户(hù)实(shí)现(xiàn)更(gèng)低(dī)的(de)成(chéng)本(běn)和(hé)单(dān)价(jià)性(xìng)能(néng)优(yōu)势(shì)。一(yī)如(rú),在(zài)最(zuì)新(xīn)发(fā)布(bù)的(de)酷(kù)睿(ruì)Ultra 200H(Arrow Lake H)平(píng)台(tái)上(shàng),DeepSeek-R1-1.5B模(mó)型(xíng)能(néng)够(gòu)顺(shùn)利(lì)运(yùn)行(xíng),且(qiě)能(néng)够(gòu)解(jiě)决(jué)数学难题。DeepSeek最新的Janus-Pro图像生成和理解模型能够在英特尔酷睿Ultra 200V系列处理器(Lunar Lake)上运行。

image004.png

酷(kù)睿(ruì)Ultra 200H可(kě)本(běn)地(de)运(yùn)行(xíng)DeepSeek-R1-1.5B解(jiě)数(shù)学(xué)题(tí)

英伟达:推理微服务支持DeepSeek-R1

1月30日,英伟达宣布,其开发者网站现已提供6710 亿参数的 DeepSeek-R1 模型微服务预览版。单个 NVIDIA HGX H200 系统上每秒可为DeepSeek-R1 提(tí)供(gōng)多(duō)达(dá) 3872 个(gè)tokens。开(kāi)发(fā)人(rén)员(yuán)可(kě)以(yǐ)测(cè)试(shì)和(hé)试(shì)验(yàn)可(kě)下(xià)载(zài)的(de)NIM微(wēi)服(fú)务(wu)应(yīng)用(yòng)程(chéng)序(xù)编(biān)程(chéng)接(jiē)口(kǒu)(API)。通(tōng)过(guò)将(jiāng) NVIDIA AI Foundry 与(yǔ) NVIDIA NeMo 软(ruǎn)件结合使用,企业还将能够为专用 AI 代理创建自定义的 DeepSeek-R1 NIM 微服务。

上一篇:MCU迎来变革之年  |  下一篇:汽车芯片8155性能解析