博威---云架构决胜云计算

 找回密码
 注册

QQ登录

只需一步,快速开始

搜索
查看: 24718|回复: 3

英伟达GPU算力一览

[复制链接]
发表于 2021-7-20 08:53:19 | 显示全部楼层 |阅读模式
NVIDIA英伟达GPU显卡算力一览(包含Tesla和GeForce、TITAN及RTX系列等)

技术标签: 神经网络  tensorflow  深度学习  机器学习








英伟达GPU算力一览

官方说明在GPU算力高于5.0时,此计算机可以用来跑神经网络,而在CSDN和网页上查找GPU算力时,没有一个比较全面的博客对目前的显卡算力做统计,而且英伟达官网链接打开真的谜一样,很慢或者直接打不开,所以用这篇博客记录一下截至到2020.8.27,一部分主流供深度学习的GPU的算力。
NVIDIA官方查找GPU算力的网址:https://developer.nvidia.com/cuda-gpus

此外,目前主流的游戏本显卡1650,1660以及1660Ti等并未出现在官网的算力表中,应该是这些GPU没有tensor core所以不太适合做深度学习。

1.CUDA-Enabled Tesla Products


2.CUDA-Enabled GeForce and TITAN Products














版权声明:本文为博主原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。本文链接:https://blog.csdn.net/qq_41070955/article/details/108269915

 楼主| 发表于 2021-7-20 09:16:40 | 显示全部楼层
深度学习为什么需要显卡计算?

GPU 是为大规模的并行运算而优化;

GPU 上则更多的是运算单元(整数、浮点的乘加单元,特殊运算单元等等); GPU 往往拥有更大带宽的显存,因此在大吞吐量的应用中也会有很好的性能。 这里有一个很有趣的解释视频,解释了GPU和CPU的计算区别。

所以显卡选择最重要,因为准备基于CUDA计算(CUDA (ComputeUnified Device Architecture) 是NVIDIA开发的GPU并行计算环境。),所以只能选择Nvida系列的。在英伟达产品系列中,有消费领域的GeForce系列,有专业绘图领域的Quadro系列,有高性能计算领域的Tesla系列,如何选择?

有论文研究,太高的精度对于深度学习的错误率是没有提升的,而且大部分的环境框架都只支持单精度,所以双精度浮点计算是不必要,Tesla系列都去掉了。从显卡效能的指标看,CUDA核心数要多,GPU频率要快,显存要大,带宽要高。这样,最新Titan Xp算是价格便宜量又足的选择。

CPU选择:

在深度学习任务中,CPU并不负责主要任务,单显卡计算时只有一个核心达到100%负荷,所以CPU的核心数量和显卡数量一致即可,太多没有必要,但是处理PCIE的带宽要到40。

准系统选择:

需要支持PCIe3.0,还要支持4通道DDR4内存架构。如果要搞四显卡并行,PCIE带宽支持要达到40,并且支持4-WayNVIDA SLI技术。

RAM:

达到显存的二倍即可,当然预算充足的话越大越好。

Power supply:

一个显卡的功率接近150-300W,四显卡建议电源在1200W以上,为了以后扩展,或选择1600W的电源。
微信图片_20210720100352.png
 楼主| 发表于 2021-7-20 09:59:29 | 显示全部楼层

前言

前几天,我们刚下发了毕业设计的题目,我选的题目为基于TensorFlow的深度学习与研究,这将会是一个系列文章,截止2020-07我会将所有相关内容用更加通俗易懂的方式发布在公众平台上,我们一块学习,让我们嗨起来~。

工欲善其事,必先利其器。今天这篇文章,我们就先学习如何在Windows、Linux上搭建开发环境。

Windows下环境搭建

1

1. 安装Python环境

进入官网,根据个人电脑系统选择合适的发行版本进行安装,以下是两点提示:

  • 选择Python3.x版本



  • 下载好之后进行安装的时候,记住勾选Add Python 3.x to PATH可选项。



官网地址:

https://www.python.org/downloads/windows/

按照上述步骤安装好之后,我们通过命令行检测一下是否安装成功。



打开命令行工具,输入如下命令:

python --version

若能显示出版本号,则证明安装正确。(:因为我之前已经安装了Anaconda,所以后面也会显示Anaconda的相关信息,小伙伴们在自己的电脑上只要看到Python版本信息就好了哦,不用跟我一样哒~

2. Anaconda下载

haha,首先介绍下Anaconda,Anaconda是Python的一个科学计算发行版,内置了上千个Python经常会用到的库,包括Scikit-learn、Numpy、Scipy、Pandas等。

因为Anaconda是一个国外网站,所以我推荐大家通过镜像去进行安装。当然,如果你想通过官网下载,也没有是问题滴~进入官网,选择合适的发行版本进行安装即可~

官网地址:

https://www.anaconda.com/distribution/#download-section



ok,我们重点来说如何通过镜像去安装,这里我们采用清华的镜像。

地址:

https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/



这里建议小伙伴们安装3-4.2版本,因为这个版本对于我们初学者比较友好,简单介绍下Anaconda3-4.2.0-Windows-x86.exe文件名含义:

  • 3-是Python版本3.x

  • Windows-x86是32位系统

  • Windows-x86_64是64位系统

大家记住自行根据电脑实际情况进行安装,不必跟我一样~

下载好之后,双击进行安装,由于安装方式比较简单(:会给你女朋友装QQ、微信就会装这个🤭,所以这里不再赘述。等安装好之后,按下Windows键,找到如下图所示选项:在以后的开发中,我们将主要使用其中的Anaconda Prompt命令行工具和基于Web的Jupyter Notebook 。



3. 在Anaconda中安装Tensorflow

国外网络有时太慢,可以通过配置把下载源改为国内的,通过conda config命令生成配置文件,这里使用清华的镜像源。

地址如下:

https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/

First of all,打开Anaconda Prompt窗口,执行命令:

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/

In addition,执行命令:

conda config --set show_channel_urls yes

last but not least,在用户目录底下找到.condarc文件,用编辑软件打开.condarc文件,删除第三行 -defaults,保存文件。



修改好镜像源之后,我们可以安装TensorFlow了:

  • 安装普通版TensorFlow命令为:

conda install tensorflow
  • 安装GPU版TensorFlow命令为:

conda install tensorflow -gpu

为便于学习,建议大家安装普通版即可,在安装的过程中:大家按照图中提示,选择y即可。



4.测试TensorFlow是否安装成功

打开Jupyter,新建Python3文件,我们看图说话:



打开之后,我们新建一个py文件,写一段测试代码跑一跑。



哎呦,好开心,一把就跑通了~真厉害o(* ̄▽ ̄*)ブ 赶紧喝两口RIO🍺,慰劳一下自己😄贴心的我把跑测试的代码贴到下面,有没有想要夸我的冲动🤭

import tensorflow as tfhello = tf.constant('Hello, TensorFlow!')sess = tf.Session()print(sess.run(hello))

Linux下环境搭建

2

目前,TensorFlow社区推荐的安装和运行环境是Ubuntu,它同时也支持Mac和Windows上的安装部署。

因为在深度学习的计算过程中,大量操作是向量和矩阵的计算,而GPU在向量和矩阵计算速度方面比CPU有一个数量级的提升,并且深度学习在GPU上的运算效率更高,所以推荐在配有GPU的机器上运行TensorFlow程序。

你说巧不巧,我在腾讯刚好有一台Linux服务器,刚好借用它老人家来写写教程(:我真爱学习O(∩_∩)O,夸我🤭



1.Python3环境安装

CentOS系统本身默认安装有Python2.x,版本x根据不同版本系统有所不同,可通过 python --V 或 python --version 查看系统自带的Python版本。

有一些系统命令时需要用到Python2,不能卸载。

  • 安装依赖包

    • 首先安装gcc编译器,gcc有些系统版本已经默认安装,通过如下命令查看:

gcc --version

     没安装的先安装gcc:

yum -y install gcc
  • 安装其它依赖包,(注:不要缺少,否则有可能安装python出错,python3.7.0以下的版本可不装 libffi-devel )

yum -y install zlib-devel bzip2-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel gdbm-devel db4-devel libpcap-devel xz-devel libffi-devel

下载python3.7.0源码,根据需求下载

wget https://www.python.org/ftp/python/3.7.0/Python-3.7.0.tgz
  • 解压Python-3.7.0.tgz

tar -zxvf Python-3.7.0.tgz
  • 建立一个空文件夹,用于存放python3程序

mkdir /usr/local/python3
  • 执行配置文件,编译,编译安装

cd Python-3.7.0./configure --prefix=/usr/local/python3make && make install

安装完成没有提示错误便安装成功了

  • 建立软连接

ln -s /usr/local/python3/bin/python3.7 /usr/bin/python3ln -s /usr/local/python3/bin/pip3.7 /usr/bin/pip3
  • 测试一下python3是否可以用,见证一下Linux下Python版本的Hello World!



2.CentOS中安装TensorFlow

注意用yum安装,不要卸载之前的python2,否则系统会出问题。安装完毕后会有如下命令:/usr/bin/python3,注意不要做软连接python3到python,原因还是centos要使用python2作为默认工具。这里不用理会,因为下面的virtualenv会自动对应python3.

下面这些不看本文也可以,把TensorFlow官网安装文档中的apt-get换成yum就行。

  • 安装需要的东西

sudo yum -y install epel-releasesudo yum -y install gcc gcc-c++ python3-pip python-devel atlas atlas-devel gcc-gfortran openssl-devel libffi-devel

注意:这里的python3-pip对应了python3

  • 安装virtualenv

use pip or pip3 as you prefer for python or python3

pip3 install --upgrade virtualenvvirtualenv --system-site-packages ~/venvs/tensorflow
  • 启动virtualenv

source ~/venvs/tensorflow/bin/activate

注意:每次都需要启动这个虚拟环境来跑TensorFlow

  • 在virtualenv中安装TensorFlow

pip3 install --upgrade tensorflow

安装好之后,我们写一段测试代码跑一跑:



ok,若能看到版本信息,就证明安装成功。

一点说明

3

到此为止,对于Windows和Linux两种平台下TensorFlow的安装就到此over。

可能有的小伙伴会问:我在书上看到还要安装GPU啊啥的,对的,小伙伴提的问题很好,证明你仔细看书了,这里我做如下解释:

深度学习中大量的操作是向量和矩阵的运算,而GPU在向量和矩阵计算速度方面比CPU有一个数量级的提升,并且深度学习在GPU上的运算效率更高,但是,听好了,我说但是,我们的项目用CPU跑就足够了~

 楼主| 发表于 2021-7-20 10:00:06 | 显示全部楼层
回复 3# network
目前RTX3080 GPU跑模型的话,无论是TensorFlow还是pytorch都需要安装cuda的版本在11.0及以上,当前测试版本为11.1。

搭建环境
本测试环境为anaconda环境,如果直接使用conda install tensorflow-gpu的话,会出现不兼容问题。可以使用 pip install tf-nightly-gpu进行安装,当前安装版本为TensorFlow 2.5.0-dev20201127版本。pytorch安装1.7版本即可,使用conda install 官方命令即可,安装时间较长。

Minist测试demo
import warnings
warnings.filterwarnings('ignore')
import tensorflow as tf
mnist = tf.keras.datasets.mnist

(x_train, y_train), (x_test, y_test) = mnist.load_data()
x_train, x_test = x_train / 255.0, x_test / 255.0


model = tf.keras.models.Sequential([
  tf.keras.layers.Flatten(input_shape=(28, 28)),
  tf.keras.layers.Dense(128, activation='relu'),
  tf.keras.layers.Dropout(0.2),
  tf.keras.layers.Dense(10, activation='softmax')
])

model.compile(optimizer='adam',
              loss='sparse_categorical_crossentropy',
              metrics=['accuracy'])

model.fit(x_train, y_train, epochs=500)

model.evaluate(x_test, y_test)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
本测试通过2020.11.28
————————————————
版权声明:本文为CSDN博主「m0_50480883」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/m0_50480883/article/details/110267095
您需要登录后才可以回帖 登录 | 注册

本版积分规则

小黑屋|手机版|Archiver|boway Inc. ( 冀ICP备10011147号 )

GMT+8, 2024-10-9 18:49 , Processed in 0.121230 second(s), 19 queries .

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表