暗网人兽一文了解DeepSeek及愚弄场景

发布日期：2025-04-01 04:23 点击次数：163

本文谛视先容了DeepSeek偏激愚弄场景，涵盖了大模子的发展历程、基应许趣和分类（通用与推理模子）。著述分析了DeepSeek的具体性情、性能上风、低资本训导与调用特质，以偏激手艺阶梯（如MoE、MLA架构），并与竞品进行了对比。此外暗网人兽，还探讨了DeepSeek在金融风控等鸿沟的愚弄远景。

一、大模子发展追溯

1.1. 大模子发展历程

图片暗网人兽

*GPT-4o的o默示omni，意为“全知万能的”；o1/o3的o默示OpenAI.

从OpenAI的发展进程看大模子的发展趋势：

1.2. 大模子基应许趣

大模子是怎样构建的？

图片

援用论文 Large Language Models: A Survey [1]

图片

中枢的三个法子: 预训导，有监督微消亡东说念主类反馈强化学习。

图片

1.3. 推理模子与通用模子

大模子发展于今，不错分为: 通用大模子与推理大模子。

图片

念念维链(Chain of Thought， CoT)通过条件/教唆模子在输出最终谜底之前，显式输出中间迟缓的推理法子这一步伐来增重大模子的算数、知识和推理的性能。从该角度，不错将大模子的范式分为两类: 概率预测（快速反映模子）和链式反映（慢速念念考模子），前者适宜快速反馈，处理即时任务，后者通过推解析决复杂问题。

图片

一个例子，问: 1+2+3+4+5+6+7+8+9+10=若干，平直告诉我谜底

图片

二、DeepSeek

2.1. DeepSeek是什么

图片

DeepSeek主流模子的竞品对标

2.2. DeepSeek不错作念什么

平直面向用户或者撑握确立者，提供智能对话、文本生成、语义解析、策动推理、代码生成补全等愚弄场景，撑握联网搜索与深度念念考，同期撑握文本上传，粗略扫描读取各样文献及图片的翰墨试验。

图片

2.3. DeepSeek的模子对比

2.3.1. DeepSeek模子发展史

图片

贵寓彩云之南公众号，浙商证券商榷所。[有关麇集2]

咱们常说的DeepSeek的大模子，是指刻下主流的DeepSeek-V3和DeepSeek-R1。

2.3.2. V3与R1的对比与领受

总结: 不推敲调用资本，复杂推理任务（例如数学、代码等）或者但愿赢得念念维链，优先DeepSeek-R1；试验创作、文本生成等优先DeepSeek-V3。

图片

2.3.3. 竞品-OpenAI的大模子

图片

*o3-mini的一个先容: [3]， o1-mini的一个先容: [4]， GPT-4o的一个先容: [5]， GPT-4o-mini的一个先容: [6]

2.3.4. 竞品-通义千问的大模子

图片

援用: 通义千问官网[7]

2.4. DeepSeek为什么大火

图片

2.4.1. 性能优厚

图片

*AIME 2024: 数学题，涵盖算术、代数、计数、几何、数论、概率等中学数学主题的概括评测，测试数学问题处分才气。

*MATH-500: 包含500个测试样本的MATH评测集，全面老到数学解题才气。

*GPQA: 商榷生水平的众人推理，一个通过商榷生级别问题评估高阶科学解题才气的评测集，旨在老到科学问题处分才气。

2.4.2. 训导低廉

论断: DeepSeek-V3 较 OpenAI竞品，训导资本约为1/20～1/3

*注， H800为针对中国市集定制，性能和价钱略低于H100.

2.4.3. API调用低廉

论断: DeepSeek-V3 API调用价钱约为OpenAI o3-mini的1/4，为GPT-4o的约1/10. 但要高于GPT-4o-mini，性能强于GPT-4o-mini.

以下为刻下调用价钱，以token为单元，1个英翰墨符约0.3个token，1个中翰墨符约0.6个token，即1 token可对应1-2个汉文汉字，或对应3-4个英翰墨符，或0.75个英文单词，死心到2025年2月8日

图片

*o3 mini念念维链: 2025年2月7日，openAI公开o3 mini念念维链，业界臆想非原始念念维链，而是总结之后的念念维链输出。

*缓存掷中: 在大模子 API 的使用场景中，用户的输入有荒谬比例是重叠的。例如说，用户的 prompt 往往有一些重叠援用的部分；再例如说，多轮对话中，每一轮齐要将前几轮的试验重叠输入。启用蜿蜒文硬盘缓存手艺，把瞻望异日会重叠使用的试验，缓存在散布式的硬盘阵列中。要是输入存在重叠，则重叠的部分只需要从缓存读取，无需策动。该手艺不仅镌汰奇迹的延伸，还大幅削减最终的使用资本。

*MMLU(大限制多任务说话解析）是一种新的基准测试，涵盖STEM、东说念主文、社会科学等57个学科，灵验地掂量了概括知识才气。

2.4.4. 其它身分

2.5. DeepSeek为什么又好又省-手艺阶梯

2.5.1. 主要手艺阶梯

图片

参考: DeepSeek-v3手艺文档 [8]

图片

2.5.2. Mixture of Experts (MoE) 搀和众人模子

MoE在NLP、CV、多模态和保举系统中有庸俗的愚弄(时辰线上头的开源，底下的闭源)。

图片

参考: A Survey on Mixture of Experts [9]

两种典型的MoE: Dense MoE VS. Sparse MoE

图片

往往会带来负载平衡问题，即众人职责量的不平衡散布，部分众人时时更新，其它众人很少更新，大齐商榷专注于处分负载平衡问题。

DeepSeek的MoE结构: DeepSeekMoE

DeepSeek-R1: 1个分享的众人+63个路由的众人，每个众人是圭臬FFN的1/4大小.

图片

《乳色吐息》无删减在线观看2.5.3. Multi-Head Latent Attention (MLA)

图片

2.5.4. R1的训导范式：冷驱动与多阶段RL

图片

参考: 知乎@绝密紧迫 [10]

2.6. DeepSeek与竞品对比

2.6.1. 几个竞品的对比技俩/模子DeepSeek-R1GPT-4o豆包模子定位专注高端推理和复杂逻辑问题通用大模子，旨在处理多任务、多模态汉文环境，面向C端用户，轻量化、文娱化是否开源是否否，买卖化居品擅长功能复杂推理，例如数学、代码通用说话生成、多模态解析拟东说念主化聊天、创意试验生成、图像生成定制化程度高；用户可修改模子行动并针对特定用例进行优化低；主要通过API调用于教唆工程进行微调低；提供API奇迹，机动性低硬件条件温煦；部署对硬件条件相对适中不适用；仅通过OpenAI基础设施上的API提供行动云表居品，无需自建硬件，后端依赖云策动集群多模态撑握暂无，可用Janus-Pro多模态大模子强多模态才气，撑握文本、图像等输入一定的多模态撑握用户群体确立者、企业用户、专科商榷者各人阻留用户、企业客户和确立者，高端市集往往糜掷者、试验创作家，字节生态2.6.2. DeepSeek的纰谬2.6.3. DeepSeek的影响

图片

鼓励了大模子开源进度，行动鲶鱼，让各人大模子竞赛进一步提速。

2.7. DeepSeek使用提出

DeepSeek教唆词库[11]

2.7.1. DeepSeek使用的不同点

图片

2.7.2. R1的正确大开神色

图片

关于推理大模子，存在糊弄手段失效和“启发式教唆”失效的问题：

参考: 知乎田威AI[12]

图片

本站仅提供存储奇迹，系数试验均由用户发布，如发现存害或侵权试验，请点击举报。