人工智能
-
Unsloth+Ollama低成本定制LLM
1、本地 LLM 开发的关键概念 在深入探讨技术细节之前，让我们先探讨一些关键概念，这些概念对于我们在资源受限的硬件上进行本地 LLM 开发至关重要。 1.1 开源模型 开源 vs…
-
编译运行 llama.cpp 的完整指南与实践
引言：llama.cpp 的定位与价值 llama.cpp 是一个轻量级、高性能的 LLaMA 大语言模型推理框架，其核心优势在于纯 C/C++ 实现（无 Python 依赖）、支…
-
How to Use llama.cpp to Run LLaMA Models Locally
Large language models (LLMs) like Meta’s LLaMA have revolutionized natural language proces…
-
HuggingFace官方宣布将对GGUF格式的大模型文件增加更多的支持，未来可以直接在HF上查看GGUF文件的元数据信息！
大模型预训练结果文件格式GGUF简介 大语言模型的开发通常使用PyTorch等框架，其预训练结果通常也会保存为相应的二进制格式，如pt后缀的文件通常就是PyTorch…
-
GGUF格式的大模型文件是什么意思？gguf是什么格式？如何使用？为什么有GGUF格式的大模型文件？GGUF大模型文件与GGML的差异是啥？
在大模型领域，GGUF是一个非常常见的词语，也是非常常见的大模型预训练结果命名方式。很多模型模型，如Yi-34B、Llama2-70B等模型都有对应的GGUF版本，这些版本都模型除…
-
DeepSeek R1 gguf 模型文件下载指南：从获取到部署的全流程解析
一、gguf格式与DeepSeek R1模型核心价值 DeepSeek R1作为一款基于Transformer架构的开源语言模型，其gguf（General GPU Format）…
-
Windows11本地部署DeepSeek加速
安装Ollama 跟Ubuntu Linux上的操作比较类似，也是要从Ollama官网下载一个安装文件，然后直接双击安装就好了，没有配置安装路径的选项。安装完成后，可以在cmd中查…
-
Ubuntu Linux部署DeepSeek
安装Ollama 以下是DeepSeek生成的关于Ollama的介绍的一个片段： Ollama 是一个开源工具，专门用于在本地运行、管理和部署大型语言模型（LLMs，Large L…
-
Windows（Win10/Win11）本地部署DeepSeek全流程指南
一、部署前准备：硬件与软件环境要求 1.1 硬件配置建议 DeepSeek模型对硬件资源有明确要求： 内存：7B参数模型建议≥16GB，32B参数模型需≥32GB 显卡：NVIDI…
-
Windows 本地部署 DeepSeek：从安装到运行
1 先来简单了解一下DeepSeek DeepSeek是一家中国人工智能公司，总部位于浙江省杭州市。 该公司成立于2023年7月17日，创始人兼首席执行官为梁文峰。 DeepSee…
