时尚新闻

机器学习中的CPU,GPU和TPU_科技频道_东方资讯

发布日期:2020-06-27 03:50   来源:未知   阅读:

当我开始机器学习之旅时。 我总是在这里用gpu训练,没有cpu ..,安装cuda。

确切地说,我当时知道的很多……

1. GPU是图形处理单元,是的,它显然很昂贵。 我周围没有几个拥有GPU的朋友,而我过去常常在他们的计算机上玩出色的游戏。 其中具有更多的计算能力。

2. TPU…。 是的,我不知道它的完整形式,也不知道何时使用它。 但是我知道一件事。 Google Colab具有TPU。 当我尝试训练一个很大的模型时,我看到了这一点。 我的第一个猜测。 是的,这是一件大事:P。

所以我以为我想真正了解这些事情,今天我将与所有像我一样的菜鸟分享。 希望你觉得它有用。

我想分享一些问题以及他们的回答。

让我们开始挖掘..

> Source

CPU和GPU之间的区别?

CPU是基于Von Neuman体系结构的最通用的处理器。 它具有极大的灵活性,可以与许多应用程序一起使用。 但是在处理CPU时,CPU的硬件直到读取指令才知道下一步的计算。

在神经网络中,我们知道许多计算是可以预测的,但是CPU仍会读取指令,一一执行,总是访问内存,这会导致吞吐量降低。

在这种情况下,GPU使用了数千个ALU,并像神经网络中的矩阵乘法一样并行执行巨大的计算。

但是它也面临着同样的问题,因为它仍然是通用的,不仅用于矩阵乘法。 对于每组计算,它都必须读取指令,并且访问存储器会增加复杂性。

TPU根本不是通用硬件,但具有特定于域的体系结构。 它们仅用于对神经网络进行大量的乘法和加法运算。 它的硬件设置方式使它知道每个处理都是矩阵处理。 如此大量的加法器和乘法器,并将它们直接相互连接,以形成这些运算符的大型物理矩阵。

> Source

GPU和CPU看起来非常相似。 它们都是基于硅的微处理器,安装在PCB上,散热器上附有散热器。

但是,当您仔细查看其微体系结构时,您可以看到存在一些根本差异,这些差异使它们适用于不同目的。 CPU是多用途的东西,可以帮助您在计算机中执行多个任务。 GPU是为特定目的而指定的-用于渲染图形或可能涉及并行算术计算,而这又会并行地同时进行数百万次计算。 当您观察GPU架构时,您会发现有相似的组件用于相似的任务,该任务同时处理多个巨大的数学计算。 GPU的高度并行化特性使其广受欢迎。

谈论TPU是张量处理单元。

> Source

简要介绍一下数据科学:

中央处理器

? 多用途

? 算术运算的等待时间非常短。

? 低吞吐量?当您想同时对大量数字使用一堆算术运算时,这是不利的。

? 顺序的-依次进行每个计算。

GPU

? 专为并行计算目的

? 与CPU相比,高延迟。 是的,它在算术运算中不如CPU快。

? 高吞吐量-它可以同时进行算术运算。 在那里他成为冠军。

? 并行?进行并行计算

TPU

? 用于矩阵处理的特殊硬件。

? 高延迟

? 高吞吐量

? 极端并行

让我们考虑一个示例,两个矩阵相乘:

[1、2、3] * [4、5、6] = [4、10、18]

CPU只需2ns即可完成乘法运算。 其中GPU具有4ns的乘法。

但是CPU按顺序执行此操作

2 + 2 + 2 = 6ns

但是GPU会执行并行处理,每次并行处理。 所以这需要

4ns

因此,在使用DEEP LEARNING时使用GPU总是很有利的。

制成品:

? 中央处理器(CPU):英特尔,AMD,高通,NVIDIA,IBM,三星,惠普,威盛,爱特梅尔等

? 图形处理单元(GPU):NVIDIA,AMD,Broadcom Limited,Imagination Technologies(PowerVR)

? 张量处理单元(TPU):Google

谢谢阅读。 我希望它对您有用。

参考文献: