零分Trader

DeepSeek本地化部署热潮:从网页到本地,AI大模型的全面应用指南

作者头像
分析师熊大 本文作者

2025-2-9 阅读 170 约 9分钟读完

评论0

随着DeepSeek继续变得流行,人们对在Web和应用程序上使用DeepSeek并不满意,并尝试本地化DeepSeek。本地化部署是指在不依赖网络或云服务的情况下将DeepSeek的AI模型安装到本地计算机中。记者搜索了视频网站,发现许多用户上传了有关如何将DeepSeek部署到本地计算机的教程,许多视频观看了超过100万。

DeepSeek触发当地部署繁荣

教人们部署DeepSeek也已成为一项业务。记者在电子商务平台上搜索了“ DeepSeek本地部署”,发现许多商店已经开设了DeepSeek本地部署业务,单位价格从几元到几十个元人都不等,其中一些人最近购买了1,000人。人们。

试图部署的AI爱好者告诉记者,当网络方面运行缓慢并且访问的数量太大时,“服务器很忙,请稍后再试。”为了获得更好的用户体验,他尝试使用DeepSeek进行本地部署。据了解,本地部署不需要深入的编程知识,并且可以逐步通过教程成功部署。

Imedia Consulting首席分析师张Yi对记者说:“当地部署支持个人根据他们的需求进行一些定制的修改,这也是驱动力之一。”张Yi补充说,在云上不能使用本地部署中的个人数据,这可以满足人们对隐私需求的满足。

DeepSeek发布了具有不同参数的模型,该模型小至10亿个参数和6710亿个参数。参数越大,所需的计算资源就越大。由于个人计算机和移动设备的计算资源有限,具有6710亿参数的DeepSeek模型通常无法在本地部署。 “普通笔记本电脑只能部署10亿个参数。如果个人计算机配备了良好的GPU图形卡或更高的内存(例如32GB),则它可以运行DeepSeek的70亿个参数版本。”上述AI技术爱好者告诉记者。

就本地部署效果而言,版本越小,大型模型的答案质量越糟。 “我试图在本地使用70亿个参数版本部署DeepSeek,该版本运行顺利,但是答案质量比云版本要差得多,较小的参数版本的结果将更糟。”上述AI爱好者说。

随着DeepSeek本地部署的普及,专门为PC添加NPU的AI PC预计将看到销售增长。据了解,华为,联想和戴尔等计算机品牌已经推出了AI PC。这台新的PC配备了专门处理本地部署AI大规模计算的处理器芯片。这些处理器芯片由Intel,AMD和Qualcomm等芯片制造商提供。 。

这些AI PC可以在本地部署并平稳运行具有数万个参数的AI模型。例如,在此CES 2025中,AMD启动了Ryzen AI Max系列处理器,据说该处理器在计算机上本地有700亿个参数运行AI型号。 。但是,配备此处理器芯片的AI PC昂贵。据了解,华硕的游戏笔记本电脑的价格为近15,000元。此外,有些人质疑花费大量资金购买AI PC在本地部署AI模型,但是实现功能与Cloud AI模型高度吻合。 AI PC只是制造商的头。

企业试图在本地部署DeepSeek

除了开设DeepSeek本地部署的个人外,公司还渴望尝试。在蛇的一年的第一天,蒂姆·韦奥奥(Tim Wei'ao)的创始人王贾(Wang Jiahui)发布了一个微信时刻:“ DeepSeek的本地计算机部署经验已成功实施,并且煤炭矿山知识安全数据库已进口Q&A,下一步是将其与工业现场运营相结合。”

Tim Viao是一家提供工业管理解决方案的企业。它使用AR眼镜和AI软件为工业现场人员维护,质量检查和故障排除提供实时观察和指导。 Wang Jiahui告诉记者,他只使用Tongyi Qianwen AI模型来创建当地知识库的问答。鉴于DeepSeek的推理能力更好,他正在考虑将DeepSeek与他的业务深入融合。

“我们将根据特定工业方案的需求和数据来基于DeepSeek进行特定参数,或进行次要开发以适应IT系统并实施新功能。” Wang Jiahui告诉记者:“我们的目标是在本地部署DeepSeek,并与现场摄像机相关联,以更好地识别现场危险的操作,并实现诸如隐藏危险检查和产品质量检查之类的功能。”

他认为,工业客户是否采用本地部署主要取决于数据的机密性。 “一些国有企业,军事行业和医疗设备公司通常要求我们实施当地部署解决方案,因为它们对数据安全有很高的要求。”他进一步补充说:“云访问解决方案可以在非固定场景中使用,尽管会有某些情况下会有云访问的情况。操作延迟不错,但影响不大,解决方案价格是降低。”

如果采用了本地部署,这些客户需要拥有4或8张GPU的服务器来实现DeepSeek本地推理服务。 “我的客户通常选择NVIDIA的消费级图形卡来配置服务器,例如4090,这更具成本效益。” Wang Jiahui说:“如果客户有国内配置要求,我们将购买更高价格的国内GPU图形卡。”

除行业外,越来越多的企业开始在本地部署DeepSeek。 Gujin Securities表示,DeepSeek可以用于信息检索,文档处理,行业研究和市场分析等方案。此外,医疗行业,网络安全和其他行业的公司最近也在本地部署了DeepSeek,包括Wanda Information,Qihoo 360,等等。

张Yi告诉记者,随着企业扩大对本地化部署的要求,对国内推理计算能力的需求将增加。此外,美国已禁止高端芯片,国内芯片计算电源公司将带来巨大的机会。

AI应用程序将爆炸

高通公司首席执行官克里斯蒂亚诺·阿蒙(Cristiano Amon)表示,deepSeek-r1是AI行业的转折点,AI推理将迁移到最终方面,AI将变得更小,更高效,更定制,并且基于特定的方案。 AI模型和AI应用程序将出现。 AVIC证券的一份研究报告认为,DeepSeek-R1表明,末端AI的部署将变得更具包容性,并且所有事物的智力时代都将加速。

开源将吸引更多开发人员基于DeepSeek构建应用程序。国内GPU卡,例如华为Ascend,Moore Thread,Biren Technology和Tianshu Intelligent Core已适应DeepSeek;云制造商(例如腾讯云,阿里巴巴云,移动云和华为云)也通过DeepSeek完成了改编。国内计算能力的适应优化有望进一步降低推理方面的成本。

由于支付申请的国内习惯尚未完全成熟,因此AI应用的商业化可能会受到阻碍。郭金计算机负责人孟·坎(Meng Can)认为,美国有10年甚至20年的申请付款基础,这有助于AI申请的商业化。由于中国没有这样的基础,因此AI应用程序的时间和进度将被实施和商业化。慢点。但是,该国一直在追赶,预计时间的进度将缩短到不到半年。

上一篇 2025年中国多地土拍市场开门红,郑州、北京等地溢价率创新高 下一篇 特朗普重返白宫:债券市场的反应与政策影响分析
评论
更换验证码