跳到主要内容

平台软硬件资源介绍

HPC AI融合智算中心(二期)通用X86 NVIDIA平台的硬件资源

节点配置

节点类别节点数量(台)主要规格
cpu型号内存大小GPU卡型号
管理节点22*Intel(R) Xeon(R) Platinum 8358P CPU @ 2.60GHz512G/
登录节点22*Intel(R) Xeon(R) Platinum 8358P CPU @ 2.60GHz512G/
CPU11102*Intel(R) Xeon(R) Platinum 8358P CPU @ 2.60GHz512G/
CPU2302*Intel(R) Xeon(R) Platinum 8358P CPU @ 2.60GHz512G/
CPU3202* AMD EPYC 7763 64-Core Processor 2450512G/
GPU1502*Intel(R) Xeon(R) Platinum 8358P CPU @ 2.60GHz1024G8*NVIDIA A800-SXM4-80GB
GPU2152*Intel(R) Xeon(R) Platinum 8358P CPU @ 2.60GHz2048G8*NVIDIA A800-SXM4-80GB
GPU3152*Intel(R) Xeon(R) Platinum 8358P CPU @ 2.60GHz1024G8*NVIDIA A40-48GB
BIG MEM64*Intel(R) Xeon(R) Gold 6348H CPU @ 2.30GHz3072G/

节点性能

CPU节点

节点类别单核主频单节点核心数内存节点数总核心数理论峰值/Gflops
CPU12.60GHz64512G1107040
CPU22.60GHz64512G301920
CPU32.45GHz 128512G202560
BIGMEM2.30GHz963072G61152

GPU节点

GPU服务器 整体配置采用NVLINK 400GB/S

节点类别单核主频单节点核心数内存节点数总核心数单GPU卡显存GPU卡总显存理论峰值/Gflops
GPU12.60GHz641024G503200A800-SXM4-80GB640GB
GPU22.60GHz642048G15960A800-SXM4-80GB640GB
GPU32.60GHz641024G15960NVIDIA A40 48GB384GB

存储配置

存储介质类型挂载点存储空间文件系统备注
SSD/hpc2ssd309TGPFS EC用于提高HPC 任务存储IO 读写性能,如长时间不使用的数据请迁移到HHD 避免。
HDD/hpc2hdd3.9PGPFS EC用于HPC 一般用户存储读写性能及数据存储

国产AI硬件资源

节点配置

节点类别节点数量(台)主要规格
cpu型号内存大小GPU卡型号备注
AI推理节点22*kunpeng920-48C @ 2.60GHz512GAtlas 300V Pro
AI训练节点84*kunpeng920-48C @ 2.60GHz1024GAscend 910 Pro B(GPU卡以芯片形式嵌入主板中)
AI管理节点22*kunpeng920-32C @ 2.60GHz512G/
存储节点42*Intel(R) Xeon(R) Platinum 8358P CPU @ 2.60GHz 512G

节点性能

CPU 节点

节点类别单核主频单节点核心数内存节点数总核心数理论峰值/Gflops(FP16)
AI管理节点2.60GHz64512G21282662.4

GPU 节点

节点类别单核主频单节点核心数内存节点数总核心数单GPU卡显存GPU卡总显存理论峰值/Gflops(FP16)AI算力
AI推理节点2.60GHz96512G219248G768G3993.62240TOPS INT8
AI训练节点2.60GHz1921024G8153632G HBM2048G7987.217.92PFlops

存储节点

节点类别单核主频单节点核心数内存节点数总核心数理论峰值/Gflops
存储2.60GHz32512G412821299.2*4

存储配置

存储介质类型挂载点存储空间文件系统备注
SSD/HDD/datapool771.82T(裸容量)EC用于12台AI服务器。

软件资源

操作系统资源

节点类别操作系统
管理节点Red Hat Enterprise Linux release 8.4 (Ootpa)
登录节点Ubuntu 20.04 LTS
CPU1Ubuntu 20.04 LTS
CPU2Red Hat Enterprise Linux release 8.4 (Ootpa)
CPU3Ubuntu 20.04 LTS
GPU1Ubuntu 20.04 LTS
GPU2Red Hat Enterprise Linux release 8.4 (Ootpa)
GPU3Ubuntu 20.04 LTS
BIGMEMUbuntu 20.04 LTS

编译环境资源

CPU1、CPU3、大内存节点

编译工具版本加载方法
GCC9.4.0(系统默认)直接使用
13.1module load compilers/gcc-13.1.0
python3.8.4(系统默认)直接使用
icc2023.1.0module load compilers/icc-2023.1.0
cmake3.27.0module load cmake/3.27.0
java1.8.11直接使用

CPU2节点

编译工具版本加载方法
GCC8.4.1(系统默认)直接使用
13.1module load compilers/gcc-13.1.0
python3.6.8(系统默认)直接使用
icc2023.1.0module load compilers/icc-2023.1.0
cmake3.27.0module load cmake/3.27.0
java1.8.11直接使用

GPU1节点

编译工具版本加载方法
GCC9.4.0(系统默认)直接使用
gcc13.1module load compilers/gcc-13.1.0
python3.8.4(系统默认)直接使用
icc2023.1.0module load compilers/icc-2023.1.0
cmake3.27.0module load cmake/3.27.0
cuda11.3 (cudnn 8.9.3 for cuda11.x )module load cuda/11.3
11.7 (cudnn 8.9.3 for cuda11.x )module load cuda/11.7
11.8 (cudnn 8.9.3 for cuda11.x )module load cuda/11.8
12.0 (cudnn 8.9.3 for cuda12.x )module load cuda/12.0
12.2 (cudnn 8.9.3 for cuda12.x )module load cuda/12.2
nvidia-sdk23.7module load nvhpc/23.7

数学库

软件名称版本软件加载方法
fftw3.3.10
intel MKL2023module load compilers/mkl-2023.1.0
nvidia-sdk23.7module load nvhpc/23.7
blas/scalapack/lapack/

MPI环境资源

序号软件名称版本安装路径加载方法
1mpich4.1.2 gcc版/opt/mpi/mpich-4.1.2module load  mpi/mpich-4.1.2
24.1.2 icc版/opt/mpi/mpich-4.1.2_icc-2023.1.0module load mpi/mpich-4.1.2_icc-2023.1.0
3mvapich3.0b gcc版/opt/mpi/mvapich-3.0bmodule load  mpi/mvapich-3.0b
43.0b icc版/opt/mpi/mvapich-3.0b_icc-2023.1.0module load  mpi/mvapich-3.0b_icc-2023.1.0
5mvapich2-2.3.7-1 gcc版/opt/mpi/mvapich2-2.3.7-1module load mpi/mvapich2-2.3.7-1
62-2.3.7-1 icc版/opt/mpi/mvapich2-2.3.7-1_icc-2023.1.0module load  mpi/mvapich2-2.3.7-1_icc-2023.1.0
7openmpi4.1.5 gcc版/opt/mpi/openmpi-4.1.5module load  mpi/openmpi-4.1.5
84.1.5 icc版/opt/mpi/openmpi-4.1.5_icc-2023.1.0module load   mpi/openmpi-4.1.5_icc-2023.1.0
94.1.5 gpu版/hpc2ssd/softwares/cuda/openmpi-4.1.5module load   mpi/openmpi-4.1.5_gpu
10Intel_mpi2021.9/opt/intel/oneapi/mpi/2021.9.0module load  intelmpi-2021.9.0
11nvidia sdk 23.7/hpc2ssd/softwares/nvidia/hpc_sdk/module load  nvhpc/23.7

应用软件资源

序号软件名称版本安装路径加载方式
1GAUSSg16/hpc2ssd/softwares/GAUSSmodule load
2HDF51.14.1-2/hpc2ssd/softwares/HDF5-1.14.1-2module load
3PnetCDF1.12.3/hpc2ssd/softwares/PnetCDF-1.12.3module load
4QE7.2/hpc2ssd/softwares/QE-7.2module load
5R4.3.1R-4.3.1module load R/4.3.1
6RASPA2 /hpc2ssd/softwares/RASPA2module load
7WPS4.2/hpc2ssd/softwares/WPS-4.2
8WRF4.2.1/hpc2ssd/softwares/WRF-4.2.1
9abacus3.3.0/hpc2ssd/softwares/abacus
10anaconda32023/hpc2ssd/softwares/anaconda3
11ccpem20221108/hpc2ssd/softwares/ccpem-20221108
12cistem1.0.0/hpc2ssd/softwares/cistem-1.0.0-beta
13cuda /hpc2ssd/softwares/cuda
14dushin /hpc2ssd/softwares/dushin
15dynamo /hpc2ssd/softwares/dynamo
16elk8.5.10/hpc2ssd/softwares/elk-8.5.10
17gams44.1/hpc2ssd/softwares/gams44.1_linux_x64_64_sfx
18gromacs2023.2/hpc2ssd/softwares/gromacs-2023.2module load gromacs/2023.2
19jasper1.9j/hpc2ssd/softwares/asper-1.9
20lammps_parallel3-Mar-20/hpc2ssd/softwares/lammps_parallelmodule load lammps/2022-parallel
21lammps_serial/hpc2ssd/softwares/lammps_serialmodule load lammps/2022-serial
22netcdf /hpc2ssd/softwares/netcdf
23pwtk-2.0 /hpc2ssd/softwares/pwtk-2.0
24pycharm2023.1.4/hpc2ssd/softwares/pycharm-community-2023.1.4
25pytorch2.0.1/hpc2ssd/softwares/pytorch-2.0.1
26relion /hpc2ssd/softwares/relion
27scipion /hpc2ssd/softwares/scipion
28tensorflow-gpu /hpc2ssd/softwares/tensorflow-gpu
29vasp6.3.2/hpc2ssd/softwares/vasp.6.3.2module load vasp/6.3.2
30docker24.0.5/usr/bin/docker
31openFoam 11/opt/openfoam11

生信类软件

序号软件名称加载方法备注
1Asperasource /hpc2ssd/softwares/anaconda3/bin/activate biological秘钥文件:/hpc2ssd/softwares/anaconda3/envs/biological/etc/asperaweb_id_dsa.openssh
2SRA tool kitmodule load biological/sratoolkit
3fastpsource /hpc2ssd/softwares/anaconda3/bin/activate biological
4fastQcsource /hpc2ssd/softwares/anaconda3/bin/activate biological
5multiqcsource /hpc2ssd/softwares/anaconda3/bin/activate biological
6Bbmapsource /hpc2ssd/softwares/anaconda3/bin/activate biological
7Megahitsource /hpc2ssd/softwares/anaconda3/bin/activate biological
8prodigalmodule load biological/prodigal
9hmmer3source /hpc2ssd/softwares/anaconda3/bin/activate biological
10CRISPRCasFindermodule load biological/crisprcasfinder
11MAFFTsource /hpc2ssd/softwares/anaconda3/bin/activate biological
12Blastsource /hpc2ssd/softwares/anaconda3/bin/activate biological
13musclesource /hpc2ssd/softwares/anaconda3/bin/activate biological
14Bowtie2source /hpc2ssd/softwares/anaconda3/bin/activate biological
15pseqsid直接使用
16Mmseqmodule load biological/mmseqs