DeepSeek
-
昇腾+verl：基于昇腾超节点DeepSeek R1模型RL训练优化实践
现阶段，昇腾CANN致力于协助开发者基于NPU构建更高效的大模型强化学习训练平台，全面赋能强化学习场景深度训推优化。目前，昇腾CANN已经支持对接开源RL训练框架verl，能够适配…
-
KunLun AI Space基于昇腾实现DeepSeek V3.1 FP8推理
在 AI 技术飞速迭代的今天，大模型的“高效部署”已成为企业落地的核心痛点 —— 既要保证推理精度，又要控制硬件成本，如何平衡两者？ 近期发布的 DeepSeek V3.1 大模型…
-
密码保护：基于华鲲振宇 AT800 A2 + 华为 IB 交换机 + 麒麟 OS v10 sp3 部署 DeepSeek-V3.1-GGUF
无法提供摘要。这是一篇受保护的文章。
-
DeepSeek-V3.1-GGUF 1-bit～16-bit 对比和选择
核心定义与背景 DeepSeek-V3.1 基础模型 总参数 685B、单 token 激活 37B 参数，上下文 128K，支持混合推理（思考 / 非思考模式），编程、长文本、工…
-
DeepSeek R1 gguf 模型文件下载指南：从获取到部署的全流程解析
一、gguf格式与DeepSeek R1模型核心价值 DeepSeek R1作为一款基于Transformer架构的开源语言模型，其gguf（General GPU Format）…
-
Windows11本地部署DeepSeek加速
安装Ollama 跟Ubuntu Linux上的操作比较类似，也是要从Ollama官网下载一个安装文件，然后直接双击安装就好了，没有配置安装路径的选项。安装完成后，可以在cmd中查…
-
Ubuntu Linux部署DeepSeek
安装Ollama 以下是DeepSeek生成的关于Ollama的介绍的一个片段： Ollama 是一个开源工具，专门用于在本地运行、管理和部署大型语言模型（LLMs，Large L…
-
Windows（Win10/Win11）本地部署DeepSeek全流程指南
一、部署前准备：硬件与软件环境要求 1.1 硬件配置建议 DeepSeek模型对硬件资源有明确要求： 内存：7B参数模型建议≥16GB，32B参数模型需≥32GB 显卡：NVIDI…
-
Windows 本地部署 DeepSeek：从安装到运行
1 先来简单了解一下DeepSeek DeepSeek是一家中国人工智能公司，总部位于浙江省杭州市。 该公司成立于2023年7月17日，创始人兼首席执行官为梁文峰。 DeepSee…
-
昇腾上部署deepseek-r1-distill-llama-70b
环境要求 硬件 硬件要求： 当前支持Atlas 800I A2 显存需求： DeepSeek-R1-Distill-Llama-70B相关模型权重占用情况如下表所示。此外，据推理后…
