GPU诞生：疯狂冒险家黄仁勋

黄仁勋

      被人工智能专家、日本人工智能学会伦理委员松尾丰称为AI领域五十年重大突破和一次飞跃的深度学习，就像一只雄鹰，高飞还需要强劲的翅膀。而装上这两只翅膀，两位华人发挥了很大的作用，他和她分别提供了GPU强大计算能力和ImageNet大数据集。

      GPU生产商英伟达公司CEO黄仁勋（Jen-Hsun Huang）,1963年出生于台北，1984年毕业于俄勒冈大学电机工程专业，后来在斯坦福大学取得硕士学位。

      中国AI专家、格灵深瞳公司CEO赵勇博士这样评价：有人说是深度学习成全了英伟达的GPGPU(通用GPU)，其实我认为，反而是GPGPU，成全了深度学习。

      他坚持认为：如果没有英伟达的CUDA(计算统一设备架构)平台，科学界证实深度学习巨大潜力的时间不知道还要推迟多久。更难能可贵的是，GPGPU技术使得在PC级别的计算机上进行高密度的高性能运算成本大幅降低，使得深度学习技术迅速地在科技界发展和普及起来。

      赵勇博士太绝对，比较中立的说法是，深度学习和GPU互相成全，深度学习借助GPU强大并行计算处理能力迅速展示了自己的工程可行性和广泛应用前景，GPU又因为深度学习打开AI一个个应用新市场而同步得到大发展。

      GPU，正是黄仁勋创办的英伟达(NVIDIA)公司首创。

      不少人很奇怪，硅谷的这家游戏显卡公司，怎么突然在深度学习中扮演重要角色呢？这实际上也是硅谷华人黄仁勋的励志故事。他1993年创办芯片设计公司英伟达后，一直在芯片龙头企业英特尔等的缝隙下艰难发展。虽然，1999年英伟达推出了革命性的图形芯片GeForce256，并由此发明了GPU（图形处理器，也即图形处理单元）这个词。但主要用于游戏显卡的GPU，被认为是PC产业附属的一个细分市场，前途并不广阔。工程师出身的黄仁勋是一个喜欢在实验室与科研人员研讨前沿进展、相信技术能改变一切的疯狂冒险家。所以，当英伟达首席科学家戴维·科克（David Kirk）提出要发展高性能的通用GPU时，他立刻坚定支持，相信这位领头开发出全世界最畅销的独立显卡的科学家。

      今天看来，用高性能通用GPU让个人拥有几百美元的廉价超级计算机、能支持大规模并行计算，是一个伟大的想法。但在2007年前后，英伟达情况非常不妙，股价从最高37美元跌落到6美元。而且，科克设想的强大的GPU计算平台，市场需求在哪里？

      在这样的背景下，黄仁勋顶住内外压力于2007年英伟达推出了基于CUDA的通用GPUbeta版，之后公司的所有GPU都支持这样的架构，吸引使用各种编程语言的工程师纷纷用英伟达的GPU进行开发，增强了GPU的开放性和通用性。

      转机出现了，由于传统CPU在设计上不太关注并行计算，而GPU从一开始在底层设计时就考虑支持单指令多数据流，所以GPU大规模并行计算方面的强大能力远高于CPU。在处理速度方面，2010年，nVIDIA 480 GPU芯片，已经达到每秒1.3万亿次浮点运算。到2015年的Titan X，更达到6.1万亿。不少专家对GPU和CPU作了比较，认为在执行特定任务时，前者速度是后者的100到300倍。

      深度学习涉及到的计算，正好比较特定，主要进行高速度、大规模的矩阵运算。这样的应用场景下，计算能力强大而价格低廉的GPU，成为最好选择。欣顿的实验室买了一大堆GPU设备，其他的神经网络实验室也如此。随着深度学习取得巨大成功，几乎作为标配的GPU同步得到极大发展。

      2016年，英伟达因为AI方面的远见而成为芯片行业的最大赢家，股价暴涨一倍多。在2017年的CES大展中，更传出英伟达可能很快超越英特尔的惊人消息。这些传言，背后是对 GPU和深度学习专用芯片未来的畅想。

      欣顿们和深度学习成功了，黄仁勋和英伟达也成功了。