優異專業卡降臨！CUDA市場總經理專訪
泡泡網顯卡頻道5月29日 近日NVIDIA舉行了一次專訪活動，在活動中NVIDIA公司CUDA市場總經理Sanford Russell以及中國區公關經理金洋為大家詳細講解了關于通用計算以及CUDA 4.0的一些相關技術，令大家充分了解到了CUDA 4.0在通用計算市場所具備的優勢。
● NVIDIA公司中國區公關經理金洋：
Sanford Russell是負責GPU計算的全球總監，簡單來說就是負責CUDA的。這次過來主要跟大家介紹一下CUDA4.0，再介紹一下CUDA這幾年在業界的變化，或者說整個公司，包括一些大學、一些利用CUDA賺錢的公司怎么看CUDA的，一些最新的變化跟大家分享一下。
● NVIDIA公司CUDA市場總經理Sanford Russell：
謝謝大家今天來參加這個活動。我是Sanford Russell，是CUDA的市場總監。我從1997年就加入了NVIDIA公司，曾經做過產品相關的工作，也做過開發者，所以在這個職位之前有一些其他方面的經驗。從2007年開始，我們就開始了GPU計算方面的工作，當時主要是了解客戶的需求，然后有逐步的架構和軟件的進行。大家如果有什么問題，關于過去還有關于現在以及如何發展到今天這一步的問題，都可以問。
我這個團隊所從事的主要工作是圍繞著整個硬件的生產系統所有的這些開發者、編程和合作伙伴，還有我們所支持的軟件開發出來的語言對于GPU計算的支持，包括像C/C++、Fortran、Direct等等這些。這張圖就可以說明我們日常工作的關注內容。
三、四年之前，我們主要關注的工作是在語言、編譯器這一塊，最近一、兩年更多的工作放在了像數學庫，以及如何在整個平臺上實現成本的管理，特別是像娛樂集群，有些用戶會用非常多的GPU，可能是幾百臺，甚至可能是更大規模的集群，所以涉及到這上面兩塊，一個是集群的管理，還有工具和合作方、合作者這一塊有專門的團隊來負責這方面的工作，隨著我們的產品和技術的成熟，這方面工作的量也會越來越大。
上面所指的涉及到的是與軟件開發公司之間的合作，這個在公司有另外一位高層來負責這方面的工作。針對于每一個具體的應用行業，像油氣、制造業、金融、化學、生物等等，這些專門的行業都有專門指定的人和相應軟件的開發合作伙伴一起工作。現在圍繞CUDA已經有一個非常大的團隊，一開始只有4個人，現在有一個非常大的團隊，而且是分屬不同的業務部門。所以GPU計算對于我們公司來說是具有戰略性的，不僅僅是一個簡單的產品，可是你看到的只是一個簡單的東西，但是背后有很多的東西，包括軟件。
● NVIDIA公司中國區公關經理金洋：
NVIDIA并不像很多人認為的那樣，只是簡單地做Tesla，做CUDA，這是初期的事情。現在考慮真正讓用戶將GPU的硬件和CUDA集成在一起。我們做了很多管理工作，做了很多支持工具和溝通工作，使得我們這邊的支持和服務讓用戶真正可以方便的應用到GPU，而不僅僅簡單的說這是一個卡，我們真正從頭到尾一步一步給用戶支持，讓他真正實現利用GPU的性能。
● NVIDIA公司CUDA市場總經理Sanford Russell：
這個是過去兩年當中，我們開展非常重要的工作方面，涉及到研究和教育方面。這對于現在GPU的工作來說是非常重要的一塊，因為在五、六年之前，可能這是比較新的領域，但是現在可以看到，已經有很多大學他們已經開設了GPU的課程。右邊是CUDA的教學中心，中間這個是CUDA的研究中心，左邊是CUDA的卓越中心，卓越中心在中國有兩個。從這個上面就可以看出，現在整個CUDA的研究還有教學增長非常迅速，規模也是越來越大。很多大學現在都有CUDA的相關課程，主要是使用C和C++語言，往往本來就有C語言的課程，現在再加入了與CUDA相關的內容。全世界總共有400多家大學有與CUDA相關的教學課程，這樣從全世界的地域來說有一個很好的覆蓋性，同時通過這些大學畢業出來的學生，他們都掌握了GPU編程的能力。
這些是一些與CUDA有關的書，左下角兩本是新出的，叫《GPU COMPUTING GEMS》，書很厚，有800頁左右。大學的教授要編這些書，就請大家提交相關材料，后來提交的相關文章太多了，結果就編了兩本書，因為如果一本書有1600頁就太多了，所以最終出了兩本書。
從我們的角度來說，有一點希望大家能夠非常清晰的認識到，我們對于GPU計算的看法不是把CPU和GPU對立起來，應該是CPU+GPU，從而實現非常好的的性能。為了實現非常好的的性能，就需要能夠充分利用CPU所有的核再加上GPU的能力。
這就是GPU編程，對于GPU編程來說，就是把里面這些關鍵的功能可以用GPU進行加速的功能給挑出來，而這些應用代碼現在主要都是用C語言來寫的。為什么CUDA的C語言會有這么多的人去用？因為它本來就是一個用的比較多的語言，我們所提供的是一個C語言的編譯器，使得這些編譯者可以直接對GPU進行編譯。除此以外，我們有一些合作方他們提供的解決辦法，像PGI的解決辦法，他們的做法是類似的，只是用的不是C語言，是Fortran語言。現在主要用的比較多的是C語言和Fortran語言，而對于API來說，處于非常低層，因此現在要通過編程來使用是比較麻煩的。但是我們相信隨著時間的推移，可能這一點會有所改善。但是無論對于API還是對于語言本身，我們對會對它進行支持，這個是我的策略。所以現在支持的像C語言、C++、Fortran、OpenGL，還有Direct等等都有支持的，我們有合作伙伴在做.net的工作，這也讓我們感到非常振奮，因為這樣可以和微軟整個語言系列結合起來。
這是我們的行業合作伙伴的圖片，大家可以看到，就從這個架構上來說，我們看垂直的行業，我們公司內部的架構上，也是把這個架構跟這些垂直的行業匹配起來。現在就行業和研究的覆蓋范圍已經相當大了，但隨著時間，我們希望把更多的行業和領域納入進來，這樣就要求以支持更多的語言或者支持更多的語言特性或者添加庫，這些就是我們現在要開展工作的地方。比較新的一個行業就是制造業，制造業本身也是非常重量級的行業，比如像汽車、飛機、火車，還有巴士、輪船等等，他們的設計很多都會用到這個軟件。
● NVIDIA公司CUDA市場總經理Sanford Russell：
簡單講一下CUDA 4.0，這個是最新的版本。很快就會出貨，現在還是屬于RC的階段（發行候選的階段），等待著開發者給我們提供一些建議。這個上面是我們出的各個不同的版本以及所針對的目標，1.0主要是針對研究者和一些比較早嘗試使用的人。在2.0的時候，就增加了一些雙精度的library，主要是針對一些科學界的人士和一些HPC的運動。在3.0的時候，就有了更多的library，我們也有了開發的工具，使得在這個階段就可以讓一些軟件的開發者也開始在使用。到4.0的時候，就使得整個使用更加的便利，所有的這些特性設計都有這一點考慮在內。
盡管CUDA 4.0有很多的特性，上面列出的三點對于現在的開發者來說是最為重要的。
第一個就是虛擬地址。左邊這個就是原來的情況，對于原來的軟件來說，開發者得自己知道這個內存到底在哪里。也就是說，對于每一個內存空間都有相應的獨特的地址。到右邊這個新的4.0就不一樣了，整個系統內存，還有顯存是有一個單一的地址空間。這個就好像一個圖書館一樣，你把一本書放進去了，原來有幾個房間，你得記住到底在什么地方，現在就變成一個房間，所以對于開發者來說，尤其剛剛用CUDA的開發者來說，會變得簡單一些。要強調的是，所有這些新的改進特性都是基于我們所收到的客戶反饋，這就是為什么在CUDA C上面有這么快的轉變，我們收到反饋以后，做出一些調整，做出一些新的設計，新的設計讓他們去試用，再聽他們的意見，然后出去的結果再去試，再讓整個市場受益。
● NVIDIA公司中國區公關經理金洋：
NVIDIA并不是閉門造車，我們CUDA之所以被這么多的用戶所接受，是因為我們在開發的過程中跟他們進行溝通，他們的意見很大程度上都能在下一款的CUDA上得到改進。所以CUDA的目的以及CUDA在研發過程中，都是以用戶的需求為最根本的問題來解決。
● NVIDIA公司CUDA市場總經理Sanford Russell：
第二個特性就是GPUDirect v2.0，原來有多個GPU，希望在兩個GPU之間實現信息或者數據的傳輸，先需要把一個GPU的內容傳到系統內存里面，再從系統內存考到另外一個GPU，然后還要釋放系統內存，所以整個過程還是比較復雜的。2.0的不一樣之處是實現了數據在兩個GPU之間直接的傳輸，這樣顯然對于代碼來說，相對來說比之前要減少，而且速度也會加快。應該說所有的這些改進都是以客戶需求為本的，所以所有的這些都是以客戶告訴我們他們需要什么，他們有什么問題，我們來提供解決辦法，幫助客戶、幫助行業來解決這個問題。
現在可以看到，這個上面兩個版本的GPU Direct，1.0主要是同一個系統之間的；2.0是針對一個系統之內。所以現在開始解決這種非常大的集群之內的問題。
接下來這張圖是Thrust，就是一個編程環境，類似于C++里面的標準模板庫，這里只不過是在GPU里面提供了這么一個Thrust。這是我們所支持的一種非常標準的C++的編程模式。原來是來自于NVIDIA的研究項目，我們支持的open google這個項目有一年多的時間，后來把它拿到了我們這個產品當中，作為其中的特性之一。也很好的實現了CPU和GPU之間的合作，通過Thrust這個設計，可以讓更適合的處理器完成相應的工作，主要看這個處理器有沒有能力完成這項相應的工作而來分配這項任務。
剛才只是簡單的講了CUDA 4.0的三個特性，實際上有很多的特性，但我認為這三個是最重要的，有助于大家理解CUDA 4.0一些比較新的地方。
簡單的理解，CUDA架構就是讓之前只能處理圖像渲染的GPU通用化處理任何類型的計算，而能夠實現任意類型計算的處理器只有CPU，但CPU的計算能力相對于CPU來說很弱，尤其是在處理一些高性能計算的時候CPU的性能明顯不足。GPU的通用化可以讓需要高性能計算的時候直接調用GPU進行計算，CPU僅僅是處理程序本身的一些工作。
目前，支持CUDA的GPU銷量已逾1億，數以千計的軟件開發人員正在使用免費的CUDA軟件開發工具來解決各種專業以及家用應用程序中的問題。這些應用程序從視頻與音頻處理和物理效果模擬到石油天然氣勘探、產品設計、醫學成像以及科學研究，涵蓋了各個領域。目前市面上已經部署了超過一億顆支持CUDA的GPU，數以千計的軟件開發人員正在使用免費的CUDA軟件工具來為各種應用程序加速。
MPI與CUDA應用程序相結合，當應用程序發出MPI收發調用指令時，例如OpenMPI等改編的MPI軟件可通過Infiniband與顯卡顯存自動收發數據。
GPU多線程共享，多個CPU主線程能夠在一顆GPU上共享運行環境，從而使多線程應用程序共享一顆GPU變得更加輕松。
單CPU線程共享多GPU，一個CPU主線程可以訪問系統內的所有GPU。 開發人員能夠輕而易舉地協調多顆GPU上的工作負荷，滿足應用程序中“halo”交換等任務的需要。
全新的NPP圖像與計算機視覺庫，其中大量圖像變換操作讓開發人員能夠快速開發出成像以及計算機視覺應用程序。
● 點擊下載開發包
去年NVIDIA給我們帶來其首款DX11產品Fermi的時候，全新的架構設計與近乎完美的執行效率讓我們深刻的感受到NVIDIA在技術上的強大。NVIDIA的工程師為了讓顯卡能夠真正體現出優勢，并沒有像AMD那樣僅僅是對上一代產品的架構進行升級，而是采用了全新的架構設計。不得不說，Fermi確實是一款非常優秀的產品。
上一代GF100核心擁有多達30億個晶體管，堪稱史上最復雜的GPU，超大的晶體管規模導致GF100核心功耗偏高。所以，最后當時NVIDIA決定在GF100核心的基礎上屏蔽了一組流處理器(從512個降到了480個)，以控制顯卡的整體功耗。因此當時基于GF100核心的桌面級以及專業級的優異產品流處理器均為480個。
隨著GF100改進版本——GF110的發布，彌補了GF100在流處理器數量上的遺憾，從480個流處理器提升到了512個流處理器，這樣在顯卡的3D以及通用計算性能上就有進一步的提升。基于GF110的桌面級產品已于去年正式發布，而目前面向于專業級的產品也已經發布——M2090。
對于NVIDIA以及任何芯片設計公司來說，改進工藝都是他們非常重視的一件事情，也同樣是芯片生產廠商(這里特指臺積電)非常重視的事情。改進工藝可以讓生產效率得以提高、可以讓良品率更有保障、甚至可以讓芯片的性能更加出色。M2090就是一款采用改進的40nm工藝制程的產品，改進后的工藝帶來了更低的功耗、更低的溫度以及更好的執行效率。
記者：我想問幾個關于硬件方面的問題，關于NVIDIA最近的Tegra產品比較火爆，請問NVIDIA是否有計劃將關于CUDA方面一些比較便捷的應用移植到Tegra產品系列中來？
NVIDIA公司CUDA市場總經理Sanford Russell：現在講未來計劃可能還是不行，但是對于公司來說，毫無疑問，CUDA是一項具有戰略意義的產品。
記者：下一步NVIDIA工作的重點將如何在CUDA的運算上和在圖形渲染方面做出平衡？下一代硬件會像之前480那樣，推出一種通用型的架構核心，還是專門針對Tesla和GeForce研發出來兩種不同的核心呢？
NVIDIA公司CUDA市場總經理Sanford Russell：現在我們是用統一的核，這個策略現在還是非常成功的。但是對于高性能計算，有一些專門的版本，但是核的架構還是一樣的。而這一點對于開發者來說也非常重要，這樣使得他們可以針對于現在已經有的2億5000萬個具有CUDA GPU進行編程。對于我們來說，我們認為最關鍵的就是對于適當市場的關注必須要確保，對重要的特性我們是需要支持的，比如像對于高性能計算這個市場，比如說像錯誤修正，還有雙精度，這些對于Tesla這個產品系列顯然是非常重要的。我們的架構師是非常聰明的，所以他們可以幫助我們來實現這一點。
記者：我的最后一個問題，之前NVIDIA放出了一個關于光線追蹤的demo，基于CUDA并行計算的光線追蹤何時能進入到一個平民化和實用化的階段？是否有計劃CUDA與游戲開發廠商合作來推出一種游戲圖形引擎呢？
NVIDIA公司CUDA市場總經理Sanford Russell：現在AutoDesk就在用我們的產品，他們的demo應該是一年前就有了，現在也已經開始出貨了，其他的一些合作方應該也有，但我現在還不能說。
NVIDIA公司中國區公關經理金洋：光線追蹤我們真正在做的是引擎，iRay，我們收購這家公司之前他是基于CPU的，效率比較低。現在把iRay用CUDA，現在iRay光線追蹤引擎在GPU上跑的速度非常快，而這個引擎被業界非常多的公司所采納，像AutoDesk。NVIDIA不會推出一個實際的產品給用戶，我們還是做引擎，站在客戶后面，像AutoDesk，像其他一些公司利用這個引擎去做光線追蹤，光線追蹤已經在NVIDIA幫助之下，已經實現實用化了。
NVIDIA公司CUDA市場總經理Sanford Russell：對于游戲來說，CUDA最大的使用是在物理引擎，因為它需要對編語言，在物理引擎方面，是使用CUDA是最多的一部分。
NVIDIA公司中國區公關經理金洋：所有的PhysX都使用CUDA，PhysX就是CUDA在游戲、物理計算方面的一個表現。CUDA或者說整個GPU并行的計算體系在PhysX上是得到最大的體現。大家看PhysX和CUDA是兩個不同的東西，其實PhysX是基于CUDA去做的，CUDA最成熟、集成度廣的就是PhysX。
NVIDIA公司CUDA市場總經理Sanford Russell：對于PhysX的開發來說，是用C語言進行的，所以對于開發者來說，CUDA C就是他們非常自然的一個選擇。
NVIDIA公司中國區公關經理金洋：我們提供非常多的選擇給游戲開發商，游戲開發商會不會基于CUDA編寫這個游戲是取決于他們自己，可能現在并不是他們所需要的，對于游戲開發商來說，他們熟悉的是OpenGL，還有Direct X，這些方面是他們熟悉的工具，同時還有PhysX，非常方便的利用到CUDA的性能。如果有一天有一個游戲開發商說不需要Open GL，想用CUDA，這個沒問題。現在就提供他最習慣用的解決方案。■<
關注我們
