nvidia
-
GPUStack 在华为昇腾 800I A2 服务器上的保姆级部署指南
随着国产 AI 芯片生态的日益成熟，华为昇腾（Ascend）系列 NPU 已成为大模型私有化部署的重要选择。GPUStack 作为一个开源的、支持异构算力（包括 NVIDIA、AMD、Apple Silicon 以及华为昇腾等）的集群管理器，自 v0…
-
麒麟高级服务器版 v10 SP3（主流为鲲鹏 ARM64 架构，可选配昇腾 / NVIDIA GPU） 上完成 llama.cpp 的完整安装
麒麟高级服务器版 v10 SP3（主流为鲲鹏 ARM64 架构，可选配昇腾 / NVIDIA GPU） 上完成 llama.cpp 的完整安装，以下是分硬件场景、可直接落地、经过验证的步骤，全程适配麒麟系统特性，每一步均包含 “操作命令 + 验…
-
384颗华为昇腾910C芯片如何干翻英伟达？这份技术拆解令人震撼
引言：中美科技博弈下的AI超算“破局战” 今年4月，华为在芜湖数据中心推出了全球首个CloudMatrix 384超节点应用。 在中美科技竞争持续升级的背景下，华为昇腾910C芯片与其系统级集群方案 CloudMatrix 384 正成为全球…
-
大模型环境搭建基础要求
环境搭建 基础环境配置如下： 操作系统: CentOS 7 CPUs: 单个节点具有 1TB 内存的 Intel CPU，物理CPU个数为64，每颗CPU核数为16 GPUs: 8 卡 A800 80GB GPUs Python: 3.10 (需要先升级OpenSSL到1.1.1t版本（点击下…
-
NVIDIA NIM for Developers
NVIDIA NIM, part of NVIDIA AI Enterprise, is a set of accelerated inference microservices that allow organizations to run AI models on NVIDIA GPUs anywhere—in the cloud, data center, workstations, an…
-
英伟达黄仁勋：大模型就像人类大脑，离开应用层会什么都做不成
10月24日在联想Tech World大会现场，Nvidia（英伟达）创始人、总裁兼CEO黄仁勋发表了演讲，并与联想集团董事长兼CEO杨元庆进行了对话。 今年黄仁勋已经在各种场合谈到过人工智能带来的机会，在本届大会上，黄仁勋提…
-
生成式AI爆发的时代，英伟达激发智能机器人和智能工业的全新潜能
一直以来，工业机器人都被誉为“制造业明珠”，是实现传统工业制造向数字化、智能化转型的重要设备。随着各类新型传感器层出不穷，再加上越来越多智能技术的融入，机器人的自动化水平快速提升，无论是制造、能源还是…
-
巅峰对决：英伟达 V100、A100/800、H100/800 GPU 对比
近期，不论是国外的 ChatGPT，还是国内诸多的大模型，让 AIGC 的市场一片爆火。而在 AIGC 的种种智能表现背后，均来自于堪称天文数字的算力支持。以 ChatGPT 为例，据微软高管透露，为 ChatGPT 提供算力支持的 AI …
-
视频+引擎？生成式AI专题报告：下一颗最闪亮的星！
1、生成式AI在视频/3D/游戏等领域的渗透加速 生成算法模型不断突破创新，下游应用场景不断拓展 基础的生成算法模型不断突破创新，基础能力日新月异，从图像向视频和3D扩展，更广泛地应用于下游应用场景 。生成对抗…
-
具身智能（Embodied Artificial Intelligence）或将引领人工智能下一波浪潮
当前，具身智能（Embodied Artificial Intelligence）作为人工智能领域的一个分支，正在成为学术界和产业界备受关注的一个焦点。 所谓具身智能Embodied AI，指的是有身体并支持物理交互的智能体。英伟达（Nvidia）…
