电脑桌面
添加运营动脉到电脑桌面
安装后可以在桌面快捷访问

量化漫谈系列:DeepSeek部署与蒸馏模型推理评测-国金证券会员免费

量化漫谈系列:DeepSeek部署与蒸馏模型推理评测-国金证券_第1页
1/29
量化漫谈系列:DeepSeek部署与蒸馏模型推理评测-国金证券_第2页
2/29
量化漫谈系列:DeepSeek部署与蒸馏模型推理评测-国金证券_第3页
3/29
量化漫谈系列:DeepSeek部署与蒸馏模型推理评测-国金证券_第4页
4/29
量化漫谈系列:DeepSeek部署与蒸馏模型推理评测-国金证券_第5页
5/29
量化漫谈系列:DeepSeek部署与蒸馏模型推理评测-国金证券_第6页
6/29
量化漫谈系列:DeepSeek部署与蒸馏模型推理评测-国金证券_第7页
7/29
量化漫谈系列:DeepSeek部署与蒸馏模型推理评测-国金证券_第8页
8/29
量化漫谈系列:DeepSeek部署与蒸馏模型推理评测-国金证券_第9页
9/29
量化漫谈系列:DeepSeek部署与蒸馏模型推理评测-国金证券_第10页
10/29
证券研究报告国金证券SINOLINKSECURITIES量化漫谈系列之十四.DeepSeek部着与蒸馏模型推理评测分析师:高智威执业编号:S1130522110003联系人:胡正阳邮箱:huzhengyangl@gizq.com.cn2025年2月1日

国金证券SINOLINKSECURITIES目录01简单对话与批量化调用02本地化部署方式对比03模型怎么选?--配置与性能对比

国金证券SINOLINKSECURITIES1简单对话与批量化调用

DeepSeek模型使用途径一览国金证券SINOLINKSECURITIES简单使用对话功能,可以有以下途径:DeenSeek官网:选择开始对话即可免费使用、开户深度思老后使用R1模型,同时拥有联网搜索功能。目前由于各类因素,存在服务不稳定的情况。硅基流动:与华为云合作,上线DeepSeekV3/R1与其他DeepSeek蒸馏小模型。目前支持在线对话和AP'调用,此外也支持在线微调。对话框可调整Max Token、 Temperature等参数,阿里云百炼:同样上线DeepeekV3/R1与各类蒸馏小模型,仅支持AP调用。火山引擎围表1:DeepSeek官网对话框图表2:硅基流动模型对话框很高兴见到你!给DeepSeok发送满息图深次思电员1联河保文个来源:DeepSeek,国金证券研究所来源:DeepSeck,国金证券研究所

国金证券DeepSeek-API调用方法SINOLINKSECURITIES对于有批量化使用大模型需求的客户,可以通过api进行自动化调用。以DeepSeek官网AP|为例,通过调用接口的步骤如下!01、申请APlkevs:官网主页点击“AP开放平台”,可申请APlkevs并查看账户余额信息2、使用Pvthon:填入申请得到的APlkeys,并在messages中输入提问内容图表3:DeepSeekAPI申请界面图表4:Pvthon调用DeepSeekAP接口代码示例deepseokAPlkeys1mportOpenAlsclient.chat.completions.create("systee","content';stream-Falsee.choices(0).message.content)来源:DeepSeck,国金证券研究所来源:DeepSeek,国金证券研究所

国金证券DeepSeek-API调用细节SINOLINKSECURITIES推理模型:DeepSeekR1在API中对应模型名称为deepseekreasoner在调用推理模型时,responsc中可以给出reasoning content,是推理模型的思考过程。支持输入参数:max token,最终回答的最大长度(不含思维链输出),最大为8K。思维链输出最大为32K。上下文长度最长支持64K。目前不支持调整的参数包括: temperature. top_p. presence penalty frequency_penaltylogprobs, top_logprobs.图表5:调用DeepSeekR1API接口代码示例来源:DeepSeek,国金证券研究所

国金证券DeepSeek-API调用细节SINOLINKSECURITIES在deepseek-chat中,还可以使用以下功能JSON输出:可设置response format-{ 'type: ison objectl,模型将以JSON格式输出。对话前续写:设置最后一条消息的prefix参数为True,并设置stop参数来避免模型额外解释。围表6:JSON输出代码示例图表7:对话前缀续写代码示例ompletions.create(来源:DeepSeek,国金证券研究所来源:DeepSeck,国金证券研究所

国金证券SINOLINKSECURITIES2本地化部署万式对比

DeepSeek大模型本地化部署指南国金证券SINOLINKSECURITIESDeepSeek已开源DeepSeek-V3/R1与各版本微调Qwen/LlaMa模型权重,便于用户本地化部署,目前有多种部署DeepSeek大模型的方法,我们主要介绍其中主流的几种方式Hugging Face(国内镜像HF-miror)图表9:DeepSeek已开源R1系列所有机型权重可通过transformers包下载模型,便于用户进行微调或其他模型开发,适合进行实验与学习。若未指定模型路径,会自动下载模型beepSeek模型并调用通过transformers下Rt-Distil1-Llam700*)tokens-True))pipelinecontent':"hello,how来源:HF-mirror,国金证券研究所净研究所

国金证券使用Ollama本地化部署DeepSeek大模型SINOLINKSECURITIESOllamaOllama优点在于易于安装与使用。并且远行速度较快,是我们较为推差的邮方式部署步骤(以Windows系统为例):。1、登录Ollama官网,下载安装包并安装(支持VindowsLinuximacOS系统)2、 cmd中输入ol1ama-V,显示版本号即安装成功。3、 cmd中输入ollama run deepseek-r1:7b,下载DeepSeekR1-Distill Qwen-7B并运行,4、关机重启后,需要cmd中运行 ollama serve或手动打开Ollama软件,确保服务开启。图表10:Ollama软件下载界面围表11:通过Ollama下...

1、当您付费下载文档后,您只拥有了使用权限,并不意味着购买了版权,文档只能用于自身使用,不得用于其他商业用途(如 [转卖]进行直接盈利或[编辑后售卖]进行间接盈利)。
2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。
3、如文档内容存在违规,或者侵犯商业秘密、侵犯著作权等,请点击“违规举报”。

查找下载文件的指引

一、电脑端

- Windows 系统:按下键盘快捷键 `Ctrl + J`,即可打开下载列表。  

- Mac 系统:按下键盘快捷键 `⌘ + J`,即可打开下载列表。  

二、手机端

1. 打开手机浏览器,点击浏览器右下角的 “≡”(或“更多”)图标。  

2. 在弹出的菜单中找到并点击 “下载内容”(或类似选项),即可查看已下载的文件。  

提示:不同浏览器界面略有差异,若未找到“下载”入口,可尝试在浏览器设置中搜索“下载”关键词。


量化漫谈系列:DeepSeek部署与蒸馏模型推理评测-国金证券

您可能关注的文档

确认删除?
签到
收藏
足迹
微信
  • 站长微信
回到顶部