黃仁勛：串行計算過時并行計算是未來

    泡泡網顯卡頻道1月2日 上個月，NVIDIA公司聯合創始人、總裁兼首席執行官黃仁勛先生親自來華，主持了2010年度GPU高性能計算峰會（GPU High Performence Forum 2010），并且親自帶領NVIDIA公司眾多員工和媒體記者朋友們，共同參觀了位于天津濱河新區的國家超級計算機天津中心。

    詳細的報道大家可以參閱：

    GPU計算峰會:黃仁勛自曝大學青澀照片
    黃仁勛:GPU加速超級計算機實現民用化
    最強超級計算機！天河一號A 內部探秘

    會后NVIDIA公司聯合創始人、總裁兼首席執行官黃仁勛先生，以及國家超級計算天津中心劉光明主任和楊燦群教授，共同接受了媒體記者們的采訪，就GPU計算以及世界最強超級計算機“天河一號”等大家感興趣的內容，做出了官方權威的申明。

    下面筆者就將采訪內容整理出來，供大家參考。

記者：天河一號A里面用了14336顆至強處理器，還用了7168顆的NVIDIA Tesla。我想請問一下，在HPC里頭，CPU和GPU數量的平衡是有什么因素來決定的？

劉光明：基本上，GPU負責一些復雜的并行計算，而CPU負責比較規整的計算。根據現在的應用情況跟我們的實驗結果，這種配比比較合理，實際運行效果能達到2：1這是我們在去年9月份做了一個實驗之后，覺得這種配比比較合理。

記者：如果未來應用有變化的話，這個比例還會有變化是嗎？

劉光明：現在這臺機器不會變了，因為硬件上已經固定了。至于未來，現在是千萬億次，到了以后萬萬億次，百萬萬億次，這個結構有可能會變，還要做研究才能下結論。

記者：你好！我想問一下天河一號A最大性能比上一代提升了4.4倍，系統的效能也從16.7%一直到53.3%，但是比傳統上的CPU能耗可以下降1/3。請問一下是采用了哪些的技術達到這樣的效果的？謝謝！

楊燦群：天河一號A這一代系統從實用性能到計算效率大幅度的提高，主要有一下幾個方面的原因。第一，我們采用了自己的高速度互聯網絡，這個互聯網絡的性能大幅度的提高了，對應的軟件優化技術也提高了。這個軟件優化主要是針對全系統的。

    另外還有一個原因，我們能夠構架這么大的系統，系統也能夠穩定運行。在天河一號A上，這一代計算機采用了NVIDIA的GPU，這款GPU是專門針對高性能計算或者通用計算所設計的。

記者：現在的GPU與最新的四核CPU相比的話，第二代TeslaGPU處理器能否以大約1/20的功耗以及1/10的成本實現同等級的性能？NVIDIA將來會有哪些方法來推廣Tesla產品？

黃仁勛：GPU+CPU這樣一個架構一方面它的計算性能非常高，同時它的耗電量又非常低。這是一個常識，如果你用比較合適的處理器來處理一定的任務的話，那你的速度一定會更快一些。中國幾乎每一個孩子都知道，如果你玩計算機游戲的話，性能最高、最好的辦法就是用GPU。我們實際上推出的GPU產品是一個通用運算的GPU，因為我們在設計的時候就有一個想法，現在已經實現了，不僅僅它可以用來玩游戲，另外還有一點，它可以解決高性能的數學的計算。

    梁教授、劉教授，還有楊教授他們做的中心有一點，在幾年以前，他們就意識到科學計算的重要性。GPU在科學計算當中，幾乎所有的人都認識到如何用GPU去高性能計算是效率非常高的。在全球比較領先的關于高性能計算的一本雜志叫《HPC Wire》，他們就在這個星期發表了一篇文章，用GPU去進行高性能計算是世界上現在最重要的趨勢。

    現在這個使用CPU+GPU的異構計算的趨勢已經變得非常清晰，但是在兩年以前，使用現在的架構風險是非常大的。劉教授和楊教授在兩年以前就看到了這一點，就是從事視覺方面的嘗試，他們是非常有遠見的。對于劉博士和楊博士非常的贊賞，在這里再一次恭喜他們，因為他們的遠見，他們創造了世界上最快的超級計算機。

    天河一號A現在已經設定在世界上高性能計算機的一個新的標準，也提升的人們對高性能計算的期望和期待值。中國政府非常有遠見，一直在鼓勵高性能計算和利用高性能計算做科學的探索和發現，在這方面不斷的投資，這是非常有遠見的。

    今天在高性能計算方面投資非常的重要，因為高性能計算實際上是科學探索和科學發展的一個有效的工具。在高性能計算方面投資，和我們現在在投資建立公路、投資汽車、投資互聯網一樣，對于未來非常重要。今天投資高性能計算可以引領我們不斷的發掘、探索新的科學和新的技術。今天科學家們在這里從事著高性能計算工作，不僅僅是對科學家來說非常的重要，對所有的業界都是非常重要的。

    劉博士剛才提到，有很多在高性能計算方面的應用，比如生命科學，發現新的藥物，延續人們的生命，保護人們的生命。他也介紹了運用超級計算機設計更好的汽車。也介紹到我們可以利用高性能計算機去制造和創造今天的電影或者電視連續劇。所以很顯然，超級計算對于我們現在生活和工作當中的各個方面都顯得非常重要。這也是為什么目前Tesla在全球所有主要的超級計算機當中都有應用，而且非常成功的原因。

    我們的戰略是鼓勵所有的公司都在他們公司內部開始使用基于Tesla的超級計算機，通過這些，他們不僅僅可以加速和開發他們的產品和設計，也可以縮短他們的產品進入市場所需的時間。目前，在全球前10個最高效的超級計算機中有7個是基于Tesla的。全球十大最高效的超級計算機，其中有7臺是基于Tesla。所以這就呈現了一種趨勢，這個趨勢就是未來，越來越多的公司或者所有的公司，他們的超級計算機都會是基于Tesla的。我們相信Tesla超級計算機會占有很大的市場。這也是為什么我們和全球領先的公司，比如HP、IBM、戴爾公司、Cray，Silicon Graphic，還有浪潮，一起不僅把超級計算機，也把基于Tesla的高性能工作站帶到市場上。現在可以在全球任何一個國家，通過任何一家計算機廠商去購買基于Tesla的超級計算機。

    希望回答了你的問題。謝謝！

記者：現在硬件的銷售越來越依賴于應用方面的拓展，所以我想問一下，NVIDIA在應用方面有沒有想要做一個平臺，類似于蘋果的應用商店，把整個程序移植到和硬件的使用者聯系到一起？

黃仁勛：你說的不錯，在推廣新的硬件產品的時候，一定需要軟件的幫助。我們投入了大量的資源去傳播新的信息和技術，就是怎么樣用并行的技術去編程。GPU是并行的，CPU是串行的，CPU每一次只能做一個工作， GPU可以同時做很多的工作。

    一方面，我們要建立一個全新的架構，在并行計算當中擁有非常高的效率。另外一方面，我們也要去推廣和教育全球所有的技術人員和編程人員怎么樣運用新的方法，通過并行計算進行編程。針對CUDA的編程語言推廣已經持續了一段時間，現在全球有400多個大學已經開始把CUDA作為他們的教程。現在針對CUDA的教學書籍和參考書籍也非常多，有漢語、日語英語，還有俄語，不同語言的版本。

    現在全球目前有超過10萬余個CUDA的注冊編程人員。很多其他的主要領先軟件廠商，他們新的軟件也都支持CUDA，比如說像Adobe一個新的軟件叫Creative Sweet。第一個用于科學研究的計算軟件叫Matlab，他們也支持CUDA。全球業內知名的工程設計以及模擬方面的軟件叫Ansys，他們也全線支持CUDA。另外全球先進的流體力學模擬軟件Amber也支持CUDA。全球目前數字創作當中最強的軟件3Ds MAX也支持CUDA。我們現在還有很多的開發工作在做，還有很多的軟件需要逐漸的擴展到CUDA編程中去。

    全球在CUDA軟件的開發和推廣方面，發展速度是非常快的。現在全球最快的超級電腦里面有CUDA，世界上最快的超級計算機里面有CUDA，日本的最快超級計算機里面有CUDA，俄國、美國的最快超級計算機都有CUDA。這個時候，軟件開發人員如果他們需要超級計算機做軟件的時候，他也需要了解和學習CUDA。另外一方面非常重要的是，全球幾乎所有的個人電腦里面都有CUDA的芯片。蘋果、聯想、戴爾、HP，幾乎所有的公司都推廣CUDA，如果你在這些商店去買計算機的話，里面都有CUDA的推廣人員。所以CUDA無處不在。

    有一點非常的重要，在這些企業應用當中，有很多不同的應用程序，但是一個或者兩個應用程序占用了CPU 70%、80%、90%甚至更高的計算能力，一兩個程序幾乎使用了所有的計算能力。不是所有的程序都同樣的重要，如果能夠針對這一兩個非常重要的應用提高它的效能，其實能夠整體極大的提高他們計算的效能。

記者：借助NVIDIA的Tesla，中國的超級計算機取得了世界領先的成績。我想中國要保持這種領先的成績，在未來，需要做哪些方面的努力和創新？第二個問題，NVIDIA在這個過程中，對中國未來的超級計算機將會提供哪些支持？謝謝！

劉光明：剛才我給大家講過，中國的要性能計算機的發展經歷了將近30年的歷程，從78年開始，以銀河1號為代表，中國就全面開展了高性能計算機的研制，這個研制并不是為了在世界上去爭排名，確確實實是因為我們國家急需這樣的高性能計算機。作為天河來講，經過32年的積累，在怎么做高性能計算機，特別是研制承擔國家科技部“863”這個項目，千萬億次級別的高性能計算機研究過程中，遇到了一個世界性的難題，就是怎么去做。從2005年到2007年一直在研究，通用CPU我們這也有，我們的“飛騰1000”，在技術上怎么用別的有的稱為協處理器，有的稱為加速器，這種結構也就叫做異構的結構去解決世界的難題。這里面過去實驗過我們自己的流處理器芯片，當時叫“飛騰100”，去年我們用的是AMD的，最后發現了NVIDIA的芯片的性能更好。

    有一點請各位朋友注意的是，超級計算機做出來運算峰值能做到4700萬億次，平均值2566萬億次，世界靠前。但這并不等于你能把這個機器在實際運作中，能用的非常好。實際上在高性能計算方面是兩個問題，第一個是怎么把這臺計算機做出來，綜合性能是不錯的，剛才楊教授介紹了，這就涉及到一個體系結構的問題，涉及到我們計算部件的系統（計算子系統），包括高性能的通信系統。

    第二個挑戰也是現在全世界都面臨的，就是它的應用。也就是說，解決實際問題怎么去編程序。在這種通用CPU+GPU這種國際，國際上學術界稱為異構協同、并行處理，或者叫異構結構，它在編程上是非常困難的。這也是當今世界上，人們面臨的第二個大的技術挑戰，并不是所有的程序拿過來之后，都能夠在這個結構上用的很好，包括國外。所以我們現在有一個很好的團隊，像楊教授帶領的這么一個團隊，從幾年前就在解決這個問題，應該說現在已經取得了非常好的成績。我們這一次能夠在實現4700萬億次情況下，能夠做到53%的計算效率，把平均值測到了2566萬億次，如果用同樣的結構去給別的用戶測，測不到這個水平，因為我們過去一直嘗試從事體系結構的研究，就是機器怎么做，芯片的研制，知道這個程序怎么劃分。

    通俗的講，這樣一個結構里面，大家算出來它的核，包括通用CPU的核，再包括GPU的核，幾十萬億次，18萬多個。什么概念？就是一件工作你把它分為1000個人好分，1000個人你好領導，把一件工作分給18萬個人，而且要把他們協調起來，讓他們同步聽命令、聽指揮的干好這件事，這在國際上也是個難題，對我們現在也是個難題，但是我們現在不斷的去解決，解決過程中有NVIDIA CUDA這樣的一個編程環境支持，又使這個難題開始解決了一部分，核心問題還要對物理過程分析怎么去并行化，計算機一般有超級計算機有超級并行計算機，所以也就是并行。很直觀的講，18萬個人去干同一件事，這個組織，令行禁止，然后統一的行動都是一個很難的事。大家可能知道，當個小班長、當個小團隊的老總很好當，當個大國企的領導就不好當了，也就是這個道理。

    所以現在我們也在花很大力氣把應用，就是過去在通用CPU環境下的應用不斷的移植到異構結構，應該說我們取得了很好的成績，當然后面也還有大量的工作要去做，也請大家在宣傳的時候跟讀者們講清這個事。并不是說計算機做好之后就會用好，還需要我們進一步的努力，把這機器在這樣的結構情況下，在NVIDIA CUDA支持的情況下，還有新的技術上的突破、創新、進步的基礎上，把應用提升到一個更高、更實用的水平，使計算機天河一號A真正發揮它的實際用處。

黃仁勛：劉教授說的很對，并行計算是一個非常復雜、非常大規模的計算，它的困難非常的多，但實際上如果你解決了這些困難的話，它能夠帶來的收益和效率也是非常可觀的。并行計算今天遇到的問題是整個計算界在過去30年，一直不停想要解決的問題，但是過去30年一直都沒有成功過。

    有多少個超級計算機的公司在全球真正開發出來異構計算、并行計算的呢？過去從事并行計算的這些公司今天都已經不再存在了，因為他們的技術和產品都沒有發揮作用。今天我們推出CUDA的新技術，實際上是異構計算，CPU+GPU的計算，一方面它很容易進行推廣，另外一方面，它有非常強的擴張能力。

    革命性的一件事情是，花了NVIDIA公司很多年的時間來開發這個技術，也花費了我們幾十億美元的投資。在這個世界上，沒有任何一家公司在并行計算當中的投資能超過NVIDIA。我們今天可以看到，因為CUDA，并行計算有非常光明的前景。當然，像劉博士剛才提到的，在這里我們還面臨著非常多的挑戰。在未來，我們需要不斷和劉博士及他的團隊進行合作，不斷地創造出更多或創造出下一代世界上最強的超級計算機。

    中國已經非常清楚地認識到，開發和推廣超級計算機對于未來的知識、科學和技術的發展都有非常大的推動作用。我們公司非常榮幸，能夠和國內很多的科學家、研究人員、很到公司，還有很多的超級計算機中心一起合作，為超級計算方面的發展提供支持。在中國，超級計算機領域的進步以及中國在科學發展當中不斷的進步，會在全人類范圍內給我們提供好處。

    各位知道，世界已經開始變得越來越小。現在對于知識、技術、科學的探索，對于全球整個人類都非常有益。我們會讓我們公司最強的技術人員和最強的技術隊不斷支持劉博士和楊博士以及整個超級計算天津中心，我們會用我們最出色的軟件工程師幫助劉博士的團隊開發和拓展新的軟件，在CUDA上發揮得更好。我們會盡我們所有的力量，不斷投入，保證在中國所有的大學都能教授CUDA的課程，中國所有的大學都有這方面的知識和能力去不斷的推廣和教授并行計算的新技術。我深信，所有的計算機科學家和工程人員，都要學習并行計算。串行計算已經是一個過去時，并行計算才是未來。

劉光明：非常感謝各位朋友到我們天津中心來，也感謝NVIDIA的黃仁勛先生來現場和我們一起探討超級計算領域現有的技術以及未來的發展，給予我們很多新的啟示。從天河一號A得到世界靠前之后，獲得了世界和我們國家的關注，我們國家超級計算天津中心現在正在做兩件事兒，第一件事就是利用天河一號A，真正為濱海新區和天津地區的經濟發展做好科技服務，這是最關鍵的。未來，我們除了需要在高性能計算機方面做好科技服務之外，還會成立一個天津的云計算中心，盡管這是科學計算和數據服務兩件事，但我們會全方位服務于國家的發展。

    第二方面，國家科技部在進行“十二五”高性能計算機的發展規劃，根據我們現在研制高性能計算機的經驗和積累的技術，會規劃一個未來符合國家整體戰略發展的新的更大的計算機，這一點在“十二五”期間肯定會實現。我也希望跟NVIDIA的合作過程中，不斷利用雙方的經驗、技術，為我們國家的高性能計算，為全世界高性能計算機的發展做出我們更大的貢獻。謝謝各位！■<