证券研究报告国金证券SINOLINKSECURITIES量化漫谈系列之十四.DeepSeek部着与蒸馏模型推理评测分析师:高智威执业编号:S1130522110003联系人:胡正阳邮箱:huzhengyangl@gizq.com.cn2025年2月1日
国金证券SINOLINKSECURITIES目录01简单对话与批量化调用02本地化部署方式对比03模型怎么选?--配置与性能对比
国金证券SINOLINKSECURITIES1简单对话与批量化调用
DeepSeek模型使用途径一览国金证券SINOLINKSECURITIES简单使用对话功能,可以有以下途径:DeenSeek官网:选择开始对话即可免费使用、开户深度思老后使用R1模型,同时拥有联网搜索功能。目前由于各类因素,存在服务不稳定的情况。硅基流动:与华为云合作,上线DeepSeekV3/R1与其他DeepSeek蒸馏小模型。目前支持在线对话和AP'调用,此外也支持在线微调。对话框可调整Max Token、 Temperature等参数,阿里云百炼:同样上线DeepeekV3/R1与各类蒸馏小模型,仅支持AP调用。火山引擎围表1:DeepSeek官网对话框图表2:硅基流动模型对话框很高兴见到你!给DeepSeok发送满息图深次思电员1联河保文个来源:DeepSeek,国金证券研究所来源:DeepSeck,国金证券研究所
国金证券DeepSeek-API调用方法SINOLINKSECURITIES对于有批量化使用大模型需求的客户,可以通过api进行自动化调用。以DeepSeek官网AP|为例,通过调用接口的步骤如下!01、申请APlkevs:官网主页点击“AP开放平台”,可申请APlkevs并查看账户余额信息2、使用Pvthon:填入申请得到的APlkeys,并在messages中输入提问内容图表3:DeepSeekAPI申请界面图表4:Pvthon调用DeepSeekAP接口代码示例deepseokAPlkeys1mportOpenAlsclient.chat.completions.create("systee","content';stream-Falsee.choices(0).message.content)来源:DeepSeck,国金证券研究所来源:DeepSeek,国金证券研究所
国金证券DeepSeek-API调用细节SINOLINKSECURITIES推理模型:DeepSeekR1在API中对应模型名称为deepseekreasoner在调用推理模型时,responsc中可以给出reasoning content,是推理模型的思考过程。支持输入参数:max token,最终回答的最大长度(不含思维链输出),最大为8K。思维链输出最大为32K。上下文长度最长支持64K。目前不支持调整的参数包括: temperature. top_p. presence penalty frequency_penaltylogprobs, top_logprobs.图表5:调用DeepSeekR1API接口代码示例来源:DeepSeek,国金证券研究所
国金证券DeepSeek-API调用细节SINOLINKSECURITIES在deepseek-chat中,还可以使用以下功能JSON输出:可设置response format-{ 'type: ison objectl,模型将以JSON格式输出。对话前续写:设置最后一条消息的prefix参数为True,并设置stop参数来避免模型额外解释。围表6:JSON输出代码示例图表7:对话前缀续写代码示例ompletions.create(来源:DeepSeek,国金证券研究所来源:DeepSeck,国金证券研究所
国金证券SINOLINKSECURITIES2本地化部署万式对比
DeepSeek大模型本地化部署指南国金证券SINOLINKSECURITIESDeepSeek已开源DeepSeek-V3/R1与各版本微调Qwen/LlaMa模型权重,便于用户本地化部署,目前有多种部署DeepSeek大模型的方法,我们主要介绍其中主流的几种方式Hugging Face(国内镜像HF-miror)图表9:DeepSeek已开源R1系列所有机型权重可通过transformers包下载模型,便于用户进行微调或其他模型开发,适合进行实验与学习。若未指定模型路径,会自动下载模型beepSeek模型并调用通过transformers下Rt-Distil1-Llam700*)tokens-True))pipelinecontent':"hello,how来源:HF-mirror,国金证券研究所净研究所
国金证券使用Ollama本地化部署DeepSeek大模型SINOLINKSECURITIESOllamaOllama优点在于易于安装与使用。并且远行速度较快,是我们较为推差的邮方式部署步骤(以Windows系统为例):。1、登录Ollama官网,下载安装包并安装(支持VindowsLinuximacOS系统)2、 cmd中输入ol1ama-V,显示版本号即安装成功。3、 cmd中输入ollama run deepseek-r1:7b,下载DeepSeekR1-Distill Qwen-7B并运行,4、关机重启后,需要cmd中运行 ollama serve或手动打开Ollama软件,确保服务开启。图表10:Ollama软件下载界面围表11:通过Ollama下...