技术专区
-
制作并量化GGUF模型上传到HuggingFace和ModelScope
llama.cpp 是 Ollama、LMStudio 和其他很多热门项目的底层实现,也是 GPUStack 所支持的推理引擎之一,它提供了 GGUF 模型文件格式。GGUF (General Gaussian U-Net Format) 是一种用于存储模型以进行推理的文件格式…
-
通过GPUStack在昇腾Ascend 910B上运行Qwen2.5推理
目前在国产 AI 芯片,例如昇腾 NPU 上运行大模型是一项广泛且迫切的需求,然而当前的生态还远未成熟。从底层芯片的算力性能、计算架构的算子优化,到上层推理框架对各种模型的支持及推理加速,仍有很多需要完善的地…
-
GPUStack 0.2:开箱即用的分布式推理、CPU推理和调度策略
GPUStack 0.2:开箱即用的分布式推理、CPU推理和调度策略 GPUStack 是一个专为运行大语言模型(LLM)设计的开源 GPU 集群管理器,旨在支持基于任何品牌的异构 GPU 构建统一管理的算力集群,无论这些 GPU 运行在 Ap…
-
GPUStack正式发布: 为大模型而生的开源GPU集群管理器
GPUStack正式发布: 为大模型而生的开源GPU集群管理器 经过 Seal 研发团队几个月来持续的开发和测试,我们满怀期待及热情地发布新的产品 GPUStack,GPUStack 是一个用于运行 LLM(大型语言模型)的开源 GPU 集群管理…
-
GPUStack 是一个开源的 GPU 集群管理器,专为高效的 AI 模型部署而设计
GPUStack 是一个开源的 GPU 集群管理器,专为高效的 AI 模型部署而设计。它配置和编排推理引擎(vLLM、SGLang、TensorRT-LLM 或您自定义的引擎),以优化跨 GPU 集群的性能。其核心功能包括: 多集群 GPU 管理。 跨…
-
谷歌DeepMind正式发布Gemma 4,一口气放出四款开源模型
凌晨,谷歌DeepMind正式发布Gemma 4,一口气放出四款开源模型。 从能塞进手机的2B,到可以单卡跑满的31B,四个尺寸全覆盖,全部基于Gemini 3同源打造。 时隔一年,Gemma 4终于来了,实力迎来史诗级跃迁。 最炸的一…
-
GoldenDB基于MySQL数据库下载安装指南
一、GoldenDB数据库简介 GoldenDB是中兴通讯推出的金融级分布式数据库,基于MySQL内核深度优化,具备高可用、高性能、强一致等特性,广泛应用于金融、电信等行业核心系统。 二、GoldenDB下载准备 系统要求:Linux操…
-
同一服务器下,不同WordPress站点使用同一个Redis库方法
最近,有两个wordpress主题需要测试,所以在同一服务器上的同一php运行环境下搭建了两套Wordpress程序。 形如: 复制复制复制 复制 a.ytso.com b.ytso.com 但在开启Redis缓存的时候,没有进行设置,两个站点同…
-
创建你自己的私有 LoRa 网络
有大量关于 LoRa 的讨论,低功耗、广域网保证了几公里范围内的通信,因此非常适合网联网通信。电信运营商正在推出 LoRa 网络,由于 LoRa 在开放的频谱范围内运行,你还可以设置自己的网络。本文讨论了构建私有 LoRa…
-
2025年LoRa与LoRaWAN模组TOP10品牌排名
2025年LoRaWAN市场格局与战略展望 市场预测与增长轨迹 进入2025年,全球物联网(IoT)市场持续扩张,对低功耗广域网络(LPWAN)技术的需求日益增长,其中LoRaWAN凭借其技术特性和成熟的生态系统,正…