大模型环境搭建基础要求

环境搭建

基础环境配置如下:

  • 操作系统: CentOS 7
  • CPUs: 单个节点具有 1TB 内存的 Intel CPU,物理CPU个数为64,每颗CPU核数为16
  • GPUs: 8 卡 A800 80GB GPUs
  • Python: 3.10 (需要先升级OpenSSL到1.1.1t版本(点击下载OpenSSL),然后再编译安装Python),点击下载Python
  • NVIDIA驱动程序版本: 470.161.03,根据不同型号选择不同的驱动程序,点击下载
  • CUDA工具包: 11.3,点击下载
  • NCCL: 2.9.9-1,点击下载
  • cuDNN: v8.2.0,点击下载

注意先安装cuDNN,再安装CUDA,使用nvidia-sminvcc -V查看是否安装成功。

原创文章,作者:奋斗,如若转载,请注明出处:https://blog.ytso.com/tech/ai/315410.html

(0)
上一篇 2024年12月30日 17:39
下一篇 2024年12月30日 18:24

相关推荐

发表回复

登录后才能评论