开yun体育网包括LLaMA蒸馏模子和千问蒸馏模子-2024欧洲杯官网- 欢迎您&

发布日期:2025-07-31 10:38    点击次数:129

开yun体育网包括LLaMA蒸馏模子和千问蒸馏模子-2024欧洲杯官网- 欢迎您&

快科技2月5日音讯,DeepSeek开源大模子的推出,不错说透澈颠覆了AI行业的发展,各大平台王人在积极适配支握,比如国产GPU,除了摩尔线程、华为昇腾,壁仞也第一时分加入了这一溜列。

壁仞科技表示,凭借自主研发的壁砺系列GPU居品出色的兼容性能,只用数个小时,就完成对DeepSeek R1全系列蒸馏模子的支握,涵盖从1.5B到70B各等第参数版块,包括LLaMA蒸馏模子和千问蒸馏模子。

壁仞科技成为少数竣事国外、国内多模子同步高效适配的芯片平台之一,评释注解了国产芯片对复杂AI行使任务的独霸能力。

据先容,DeepSeek提供了一种高效的模子蒸馏时期,梗概将大领域模子的能力搬动至更小、更高效的版块,而且通过MLA、DeepSeek MoE两大中枢时期,显赫缩短显存占用,优化模子性能。

壁仞科技壁砺系列GPU居品在短时天职到手支握DeepSeek全系列蒸馏模子,评释其在AI推理任务中具备浩瀚的兼容性和易用性。

同期,壁仞科技已集合上海智能算力、中兴通信、科华数据、无问芯穹、开源中国(Gitee AI)、UCloud、一蓦科技等计策伙伴,基于壁砺系列训推居品106M、106B、106E、110E,全面开展包括R1在内的DeepSeek全系列模子的适配与上线,骄气不同领域参数目模子的部署需求——

轻量级模子(1.5B-8B):

适配智能末端与角落盘算推算修复,竣事低延时及时推理。

中大领域模子(14B-32B):

奇迹于大领域企业级行使和高并发任务,骄气数据安全与定制化需求。

大领域模子(70B):

依托云霄超算集群,守旧前沿AI参谋与复杂任务科罚。

即日起,壁仞AI算力平台厚爱上线DeepSeek R1蒸馏模子推理奇迹,各人征战者可云霄体验1.5B、7B、8B、14B、32B、70B全系列模子奇迹。

体验地址为:

https://sgc.birentech.com:1443/

该奇迹具备两大中枢上风:

一是零部署老本,可免去硬件采购与环境搭建,竣事“开箱即用”的云霄推理体验。

二是多场景掩盖,针对LLM等不同任务预置优化树立决议。

【本文罢休】如需转载请务必注明出处:快科技职守剪辑:上方文Q开yun体育网著述推行举报

【本文罢休】如需转载请务必注明出处:快科技

职守剪辑:上方文Q

著述推行举报

]article_adlist-->   声明:新浪网独家稿件,未经授权阻挡转载。 -->

栏目分类



Powered by 2024欧洲杯官网- 欢迎您& @2013-2022 RSS地图 HTML地图