對話英偉達:解密Jetson平臺,未來還會推基于Orin的Jetson產品
Jetson生態系統中目前有40萬開發人員。
在剛剛過去的一周里,英偉達的GTC China在蘇州圓滿落幕,GTC作為英偉達每年秀肌肉的盛會,也是外界系統了解英偉達的最好機會。
從今年的GTC可以看到,主導云端AI芯片市場的英偉達,正在用云端加邊緣一體化的軟硬件解決方案吸引更多客戶。其中,面向終端以及邊緣端的Jetson系列產品就是英偉達的新武器。
3月,英偉達在硅谷的GTC大會上發布了Jetson Nano,一款非常小巧又便宜的AI開發板。
11月,他們又發布了號稱“史上最小、功能最強”的邊緣AI超級計算機Jetson Xavier NX。
可以看到的是,英偉達一直在逐漸完善豐富Jetson家族產品。那么,Jetson系列的定位有何區別,英偉達在切入邊緣端側市場后,成績又如何?
圍繞這些問題,鎂客網在GTC期間采訪了英偉達的自主機器產品管理部門主管Murali Gopalakrishna。
圖 | 英偉達自主機器產品管理部門主管Murali Gopalakrishna
Jetson:擔負邊緣端側重任
Jetson是英偉達的AI邊緣平臺,從今年幾場重要發布來看,它已然成為英偉達AI的重中之重,英偉達給Jetson的定位也很明確:用于邊緣以及端側場景,比如自主機器,包括自主的攝像頭、配送機器人,倉庫機器人等;用作視頻分析的高清傳感器,涉及到“光巡檢”或者“光檢查”的應用;以及嵌入式的設備等等。
目前,Jetson家族共有四大類產品,分別是Jetson Nano、Jetson TX2系列、Jetson Xavier NX和Jetson AGX Xavier系列。
值得注意的是,Jetson系列都是低功耗的模塊化系統,具備CPU、GPU、PMIC、DRAM和閃存等等。用黃仁勛的話說,“我們生產的不是定制化芯片,我們做的是GPU加速,它支持任何一個框架、任何一個模型,每一款都可以實現TensorRT的加速。”
為了更好的區分英偉達Jetson平臺上各個產品,鎂客網做了簡單的分類歸納整理:
每款產品的性能參數決定了它們面向的細分場景有所差別,從Nano到AGX Xavier,支持的傳感器的數量越來越多,計算能力越來越高,設計系統的自主性也越來越高,
以最小尺寸、最便宜的Nano為例,它主要應用于非常小體量的設備,比如:攝像頭,UGV(地面無人機)類型的一些機器。
TX2比Nano支持的攝像頭數量要多,所以可以做多傳感器融合的應用,并且TX2有一個專門的安全核心。
AGX Xavier是一個打造機器人的全功能平臺,適合開發比較復雜的機器人,比如京東、美團就基于Jetson平臺開發了送貨機器人。
而上個月剛剛發布的Xavier NX則融合了Nano和AGX Xavier的優點,即性能上“不打折”但是成本更優,和AGX Xavier一樣,它也適用于更復雜的應用。
Murali舉了個例子,如果客戶用Nano設計一個UGV,但后期系統復雜度不斷提高,那么就可以選用同樣功耗下,性能是Nano 50倍的Xavier NX的,而且由于Xavier NX可以直接插在Nano開發板上,開發者無需更改系統的軟件。
另外,由于四款產品內存上的差異,也決定了它們支持的機器學習模型數量不同,比如要讓設計的機器人實現更好的人機對話互動,必然要選擇一個大內存的平臺。
也就是說,英偉達從尺寸、算力、功耗、價格等不同維度,分別推出了相配套的產品,從而滿足邊緣和端側的各種開發需求,完成對端側市場的滲透。
Murali表示,“Jetson的生態系統中目前有40萬的開發人員,有3000個客戶。他們開發的應用小到一個攝像頭、平衡車,大到基因排序的設備等等,有很多讓我們驚喜的應用。”
從顯微鏡、機器人到基因測序應用,Jetson“無所不能”
Jetson系列都屬于那種“麻雀雖小、五臟俱全”的產品,非常適合高校學生、以及創業者用作機器人的開發。
據Murali介紹,斯坦福大學的學生通過Jetson Nano開發了一款能夠鑒別病毒和細菌的高清顯微鏡,并以2美元的價格賣給了非洲、亞洲的一些義工或者志愿者;英格蘭的公司基于Jetson做了基因測序應用;一家名為Warehouse Robot 6River的公司,在只有3個工程師的情況下,基于Jetson TX2研發了一款機器人……
Murali表示,“在Jetson平臺上開發機器人的創業公司特別多,而且總是被大公司收購。像亞馬遜就收購了兩家這樣的公司。”
綜上,雖然英偉達的Jetson已經取得一些階段性的成果,但當前有不少創業公司以及科技巨頭也陸陸續續推出了邊緣和端側的產品,這塊市場競爭激烈程度不亞于云端的數據中心。
在英偉達看來,他們的優勢也非常明顯。首先是產品的智能化程度以及靈活性,可以有針對性地為一些工業應用場景做優化;其次是軟硬件的兼容和持續維護升級:英偉達每一款硬件產品基本上都會配備軟件及應用。Murali提到,“直到現在我們還在為第一代Jetson提供軟件升級的維護服務,但是同期其它競爭對手的產品早已銷聲匿跡了。”
軟件方面,3月英偉達發布了Isaac機器人平臺的第一個版本,上周,黃仁勛在GTC China的現場發布了全新版本Isaac軟件開發套件,包括Isaac Robotics Engine(提供應用程序框架),Isaac GEM(預先構建的深度神經網絡模型、算法、庫、驅動程序和API),用于室內物流的參考應用程序以及訓練機器人Isaac Sim的第一個版本(提供導航功能)。
采訪中,Murali也解釋了Isaac的仿真功能對當前整個智能機器人生態的影響。搭配RTX光線追蹤技術,通過Isaac仿真器,可在虛擬世界里以接近現實世界的逼真度來做機器人的模擬訓練。
Murali還舉了個形象的例子,“比如要制造一個炒菜機器人。我們先通過仿真,教這個炒菜機器人如何去炒菜,然后再把學好炒菜的機器人的大腦轉到實際物理機器人中,這樣它就知道如何在你的廚房炒菜了。”
最后:
今年的GTC上,英偉達還推出了用于自動駕駛和機器人的軟件定義平臺NVIDIA DRIVE AGX Orin,內置全新Orin芯片,是上一代Xavier芯片性能的7倍。據Murali透露,之后,英偉達也會推出基于Orin的Jetson產品。
在英偉達推出兩款邊緣側產品后,很多人猜測他們會對做端側推理芯片的公司造成沖擊,其實由于應用場景的不同,端側的算法各有差異,相應的對性能、功耗以及延遲的要求也有區別,所以很難說這個市場會存在一統天下的霸主。
但是英偉達積累了多年的軟硬件能力卻是諸多公司難以企及的,可以預見的是,端側市場必將迎來一場新的洗牌,這一次誰又能跑到最前面呢?
最后,記得關注微信公眾號:鎂客網(im2maker),更多干貨在等你!
硬科技產業媒體
關注技術驅動創新
