顯示包含「Nvidia」標籤的文章。顯示所有文章
顯示包含「Nvidia」標籤的文章。顯示所有文章

2017年4月19日星期三

NVIDIA結合Power架構 成就新一代超級電腦

人工智慧(Artificial IntelligenceAI)經過幾乎近六十年發展,從純學術研究日漸成熟,逐漸進入應用階段。除了IBMWatson,其他人工智慧成果陸續浮現,全球正步向人工智慧普及化(Democratizing AI)的世代,影響各行各業,互聯網服務供應商更積極以AI轉型。

AI之所以水到渠成,簡中原因亦是互聯網累積了大量數據,發展機器學習,AI可不斷臻善數學模式。近年運算模式突破,AI運算模式憑大量數據,改善電腦認知能力作深度學習,甚至分辨圖片和解讀聲響。AI要求極快速運算,超級運算能力之所以加快實現,又歸功於圖型加速卡(GPU)浮點運算,被借用作一般用途運算General purpose computing)。中央處理器(CPU)利用了GPU作平行運算,稱之為GPGPU,爆發出驚人運算能力,AI也更快變成現實。

NVIDIA是最早投資於GPGPU的圖型加速卡廠商。CPU要借助GPU運算,須通過另一套轉譯工具,一般程式變為GPU能處理的源碼,NVIDIA推出CUDA,正是目前最流行轉譯工具,NVIDIA也成為AINVIDIA推出了專供機器學習GPGPUTesla平台,GPGPU價格進一步下調。

但是,CPU要充份利用GPGPU性能,數據交換速度必須夠高。否則GPU再快,亦無用武之地。NVIDIA開發了NVLink,供多張GPGPU之間高速交換數據;可是GPGPUCPU之間仍有瓶頸,GPGPU只有空轉等待CPU送來的數據。

IBM服務器方案經理張智恆說,去年IBM公佈開發代MinskyPower架構,同一服務器可容納最多四張GPU的叢集,專用於高性能運算或者AI,徹底解決GPGPUCPU傳輸限制。

公開架構加快創新

2013年,IBM成立了OpenPOWER Foundation,公開了Power處理器的架構設計,以便與合作夥伴協作,加快Power服務器演進。OpenPOWER推出了OpenCAPI,以便連接GPUASICFPGA等輔助加速芯片,提供協作的平行運算。

NVIDIAOpenPOWER Foundation獻了NVLinkNVLinkNVIDIA用於連接GPU之間,一種極高速的管理。OpenCAPI加入了NVLink,新一代Power構可讓CPUGPU數據交換速度,一下子提高數倍。NVLink速度達80GB/s,較英特爾系統採用PCI Express快了四倍。目前英特爾沒有相應的方案,足以挑戰Minsky的速度

新一代Power系統Minsky支援兩枚Power處理器和四張NVIDIATesla 100GPGPU,全部以NVLink互連,足以取代數以十計X86電腦組成的叢集系統,節省大量硬件、電力和周邊配置。
張智恆說,本港不少大專院校的研究部門,已對採用Minsky開發AI應用表示極大興趣。

NVIDIA亞太區業務行銷副總裁Raymond Teh說,Tesla 100採用NVIDIA新一代Pascal架構,比上一代快了幾倍,支援CUDA和用於類神經運算CUCNN語言,不少公司都在CUDA上加上本身開發AI架構,最著名可數GoogleTensorflowIBMCoffeMicrosoftCNTK,公開架構如Torch用於深度學習的運算架構。上述架構,均可在MinskyUbuntu作業系統上執行,透過CUDA轉譯放到Tesla 100 GPU上加速。

Raymond Teh說,Power處理器加上NVLinkOpenCAPIPascal架構組成的Minsky平台,為迄今速皮最高的深度學習平台不少金融、醫療研究、無人駕駛,甚至互聯網企業GoogleFacebook國內多家互聯網,紛紛轉用上述組合,支援新一代運算。

「互聯網產業要過濾大量訊息以往靠大量CPU組成的叢集,如今通過GPU的平行運算減少負荷。另一個很大用途是用於人臉或聲音的識別。騰訊、百度、阿里等均部署大量Power處理器和NVIDIAGPGPU。」

NVIDIA作為AI方案的最大廠商,亦有不少挑戰對手,包括了可編程低功耗技术的FPGA,以及不同的 ASIC芯片不久之前,由於GoogleTensorflow架構極受歡迎,宣佈推出TPUASIC芯片,專門用於執行Tensorflow。不過Teh表示,TPU只針對執行Tensorflow負載,並非GPU一般性能指標。

他說,不同領域廠商推出本身方案有望加快AI發展較早前英特爾收購Mobleye就是為了加快AISoC芯片開發,預計會有更多ASICFPGA方案陸續出現挑戰NVIDIA的地位


2017年4月5日星期三

Nvidia與Bosch合作 推新一代無人駕駛芯片


隨著英特爾收購Mobileye自動駕駛技術;另一家大力投資於人工智慧顯示卡芯片廠Nvidia亦推出新一代無人駕駛技術。

Nvidia可說是首家洞悉人工智慧潛力廠商;率先開發出GPGPU方案。2007年,行政總裁黃仁勳已推出CUDA平台,打下深度學習基礎,成為現今最成熟的機器學習技術之一騰訊雲和微軟均採用其技術。三月初,Nvidia與全球最大汽車零售供應商Bosch合作,推出人工智慧Xavier超級運算系統芯片(SoC, System-on-Chip),每秒可執行二十兆次運算,支援新一代無人駕駛汽車。

新的無人駕駛汽車採用了NvidiaDrive PX技術,深度學習及人工智慧技術出現突破,預計未來十年無人駕駛汽車有望普及。Nvidia亦宣佈與美國貨車生產商PACCAR,合作開發自動駕駛貨車。

Nvidia業務收入急促增長,加上全線顯示器均支援CUDA,任何PC皆可開發高密度高性能運算,CUDA成最普及人工智慧技術。業內估計,Nvidia人工智慧比其他產量芯片,技術至少領先兩年。去年,Nvidia股價急升超過三倍,每股三十多美元升至一百二十水平。

2017年3月29日星期三

英特爾收購Mobileye 無人駕駛殺入直路

英國芯片設計廠ARM公佈,推出針對自動駕駛汽車及人工智慧芯片的DynamIQ架構,為ARM首枚新一代類神經網絡(Neural networks)芯片。近月來,無人駕駛的人工智慧行列芯片,幾乎成為兵家必爭之地。數年後,估計無人駕駛技術將會成熟。

IBM開發出人工智慧的類神經網絡芯片,主要用於開發深度學習(Deep Learning)的Watson雲端服務。Watson亦與亞利桑那州Local Motors,研究開發無人駕駛電動小巴Olli,但只屬於小規模實驗。

另一家大力投資於人工智慧,為顯示卡芯片廠Nvidia,已投放愈二十億美元,開發新一代類神經網絡芯片。Nvidia可說為首家洞悉人工智慧潛力的廠商;率先開發出GPGPU方案。2007年,行政總裁黃仁勳已推出CUDA平台,打下深度學習基礎,成為現今最成熟機器學習技術之一。三月初,Nvidia與全球最大汽車零售供應商Bosch合作,推出人工智慧Xavier超級運算技術,支援新一代無人駕駛汽車。

Nvidia業務收入急促增長,加上全線顯示器均支援CUDA,任何PC皆可開發高密度高性能運算,CUDA成最普及的人工智慧技術。業內估計,Nvidia人工智慧比其他產量芯片,技術至少領先兩年。去年,Nvidia股價急升超過三倍,每股三十多美元升至一百二十水平。

去年,全球最大芯片廠英特爾(Intel)急起直追,收購人工智慧廠商Nervana Systems。月初,英特爾以現金153億美金,收購以色列自動駕駛技術公司Mobileye,亦為歷來以色列科技公司最大宗收購案;以Mobileye全年收入三億五千八百萬美金計,收購價達43倍;全年盈利一億零八百萬美元計,市盈(P/E)倍數141倍。

英特爾急起直追

全球有二十多家車廠,正採用Mobileye技術實現無人駕駛,電動汽車Tesla亦曾採用Mobileye技術開發無人駕駛。去年,美國佛羅里達州一名Tesla駕駛者,以Mobileye駕駛發生車禍喪生,兩家公司終止合作關係。

英特爾購Mobileye,意味類無人駕駛競爭,已至短兵相接;Mobileye以EyeQ技術的SoC,為最先進類神經網絡芯片之一,可執行複雜視覺運算、機器學習、訊號處理,包括類神經網絡運算。德國寶馬車廠宣佈採用Mobileye技術,年底組成四十部無人駕駛汽車,公路上大規模實驗。英特爾將整合Mobileye類神經網絡技術,到本身不同芯片產品上。

英特爾會通過網絡連接汽車,以雲運算實現自動駕駛。英特爾全球自動駕駛集團將設於以色列,交自Mobileye創辦人Amnon Shashua領導。Shashua為全球自動駕駛技術權威,英特爾收購了Mobileye,有助擴大汽車業影響力,遏止Nvidia藉Bosch打入汽車市場。

英特爾亦為以色列國家最大外來投資者;規模之大足以影響經濟增長。以色列剛公佈2016年第四季經濟增長達6.5%,為10年來最高速;其中一項因素即為英特爾耗資60億美元,翻新南部城市Kiryat Gat芯片廠。

英特爾於以色列約僱用一萬人,每年出口總值超過33億5千萬美元,佔全國出口約一成。英特爾的投資亦有社會界外利益,不少舊員工加入了初創,推動高科技初創成長。

以色列擁不少類神經網絡研究人材;尤其人工智慧,英特爾收購Mobileye,以色列有望成人工智慧研究重鎮。