近日，杭州的深度求索发布了第二代开源moe模型deepseek-v2，从技术指标来看，该模型已达到领先水平，无论是与开源模型还是闭源模型相比，均处于第一梯队，是gpt-4、文心4.0、qwen1.5 72b和llama3 70b等先进大模型的有力竞争者。本文将详细介绍其特性。
参数规模与表现
DeepSeek-V2拥有236B（十亿）参数，每个Token激活2.1B参数，并支持长达128K的上下文长度。在性能方面，它在中文综合能力评测中与GPT-4-Turbo、文心4.0等闭源模型并驾齐驱，而在英文综合能力上则与开源模型LLaMA3-70B相当。
上下文长度
该开源模型支持长达128K的上下文长度，而聊天和API则支持32K的上下文长度，这有助于处理需要大量上下文信息的复杂任务。
中文能力
在中文综合能力（AlignBench）评测中，DeepSeek-V2在开源模型中表现最强，与GPT-4-Turbo、文心4.0等闭源模型处于同一水平。
编程能力
DeepSeek-V2在编程任务和逻辑推理方面表现出色，适用于技术领域和需要复杂决策的应用场景。从官方突出展示其编程能力来看，团队对其在这一方面的表现充满信心。
API价格
DeepSeek-V2的API定价为每百万输入Tokens 1元（0.14美元），每百万输出Tokens 2元（0.28美元），具有竞争力的价格。
模型架构
DeepSeek-V2采用了MoE架构，并对Transformer架构中的自注意力机制进行了创新，提出了MLA（Multi-head Latent Attention）结构。通过使用MoE技术，进一步降低了计算量，提高了推理效率。
商用
该模型采用MIT开源协议，且明确表示V2系列支持商用。
结语
DeepSeek-V2以其极具竞争力的价格和出色的数据表现引起了我的关注。经过了解，发现这家公司是幻方旗下的独立公司，幻方原本从事AI量化投资，后来发现AI领域大有可为，于是独立出业务，成立新品牌专注于大模型开发及探索各种可能性。在当前主流的大模型服务中，我认为一个好的模型应具备以下几点：1. 开源，2. 价格低，3. 对中文的理解能力强，4. 在架构上支持更大的上下文窗口和更高的性能。抛开国外的知名模型不提，从情感上，我更支持国内的优秀模型在AI领域中涌现更多适合中文语境的AI应用，这不仅能让普通开发者以更低的成本进入AI赛道，也能让更多普通人享受AI带来的便利。
