老黃亮出“雷神”超級芯片！NVIDIA又領(lǐng)先了幾光年

2022年又是NVIDIA在AI加速計算賽道里飛速狂奔的一年，進一步拉大了與追趕者的差距。

先是今年3月發(fā)布了性能有數(shù)量級飛躍的Hopper架構(gòu)GPU H100。今天，NVIDIA CEO黃仁勛在GTC 2022上宣布H100全面量產(chǎn)，但根據(jù)美國政府的最新規(guī)定，未經(jīng)許可，NVIDIA不能出口、轉(zhuǎn)讓H100 GPU在中國市場上使用。

對此，黃仁勛在GTC 2022期間回應(yīng)，NVIDIA會推出不受限制的替代版本。當然，即便在現(xiàn)在的限制下，NVIDIA廣泛的產(chǎn)品線也能夠滿足客戶的絕大多數(shù)的需求。

不過，秋季GTC更值得關(guān)注的是史詩級的超級芯片DRIVE Thor(雷神)，這款最新的超級計算機將于2025年上市，AI性能高達2000TOPS的DRIVE Thor SoC將可能變革智能汽車行業(yè)。

當然，黃仁勛也不忘用超強的AI算力普惠包括醫(yī)療和工業(yè)在內(nèi)的邊緣計算領(lǐng)域，推出了基于NVIDIAIGX邊緣AI計算平臺及解決方案。

另外，黃仁勛還更新了曾吸引了無數(shù)關(guān)注的NVIDIAJetson Nano，最新推出的Jetson Orin Nano相比上一代實現(xiàn)了80倍的性能飛躍，價格維持在比較親民的199美元起。

如果說春季GTC 2022的H100 GPU樹立了高性能AI芯片的新標桿，那秋季GTC的無疑會讓自動駕駛芯片和邊緣AI芯片的追趕者們感受到了壓力。

黃仁勛也給游戲玩家?guī)砹酥档门d奮的新一代GeForce RTX 40系列GPU(RTX 40系顯卡GTC「炸場」發(fā)布，性能提升70%，價格再創(chuàng)新高)。

看起來，從云端到邊緣端，從現(xiàn)實世界到元宇宙，NVIDIA都想通過創(chuàng)新保持一騎絕塵。

史詩級汽車SoC平臺雷神

大算力汽車芯片已經(jīng)成為趨勢，但作為領(lǐng)導者，NVIDIA在2022年給出了一個讓人驚艷的產(chǎn)品Thor(雷神)。

全新Thor超級芯片可提供每秒2,000萬億次浮點運算性能，取代了DRIVE發(fā)展路線圖中的Atlan，能夠與目前被用于量產(chǎn)汽車、可提供每秒254萬億次浮點運算性能的DRIVE Orin無縫銜接。

對于為什么用Thor取代Atlan更改發(fā)展路線圖，黃仁勛也做出了解釋：“Atlan是已經(jīng)商用的Orin的下一代產(chǎn)品，是幾年前的項目，但因為出現(xiàn)了令人不可思議的Hopper、AdaGPU和Grace GPU，我們不愿意為此再等兩年，于是決定用Thor取代Atlan，并集成了最新的技術(shù)，有了Thor超級芯片。”

NVIDIAThor的強大之處在于，一個基于Thor芯片的系統(tǒng)可以完成所有工作的計算機取代目前汽車內(nèi)的單獨計算機，利用具有廣泛隔離(包括 MIG)的功能安全設(shè)計技術(shù)來防止單獨的任務(wù)相互干擾。

目前，想要實現(xiàn)汽車中的主動安全、停車、駕駛員監(jiān)測、攝像頭后視鏡、集群和車載信息娛樂系統(tǒng)等功能通常需要不同的計算機提供支持。

NVIDIA正在引領(lǐng)自動駕駛新的未來，也就是由在中央計算機上運行的軟件統(tǒng)一提供支持，并隨著時間的推移不斷改進。

據(jù)黃仁勛介紹，基于Thor芯片的系統(tǒng)可以將智能汽車的所有功能都集中在單個AI計算機上，“車載計算資源的集中化可以將成本降低數(shù)百美元”。

具體來看，DRIVE Thor平臺集Hopper的Transformer Engine、基于Ada的GPU和Grace CPU于一身。

基于新的架構(gòu)和引擎，Thor芯片具有8位浮點 (FP8) 功能，憑借著8位浮點 (FP8) 的精度，Thor芯片為汽車引入了一種新的數(shù)據(jù)處理方式。

傳統(tǒng)意義上，AV(自動駕駛車輛)仿真平臺的開發(fā)人員需要從32位浮點轉(zhuǎn)移到8位整數(shù)數(shù)據(jù)格式，而FP8精度簡化了這種過渡，讓開發(fā)人員可以在不犧牲精度的情況下進行數(shù)據(jù)傳輸。

另外，NVIDIA還推出了NVLink?C2C技術(shù)，該技術(shù)可以同時連接兩個Thor芯片，使兩個芯片成為單一操作系統(tǒng)的單片平臺。NVLink?C2C的優(yōu)勢在于共享和調(diào)度，它可以使用最小的算力成本進行跨鏈路分配工作。

在軟件定義汽車的發(fā)展趨勢下，NVLink?C2C技術(shù)為汽車提供了足夠大的算力冗余來保證軟件配置的靈活性，并為智能汽車未來的OTA做好了算力方面的保障。

醫(yī)療和工業(yè)領(lǐng)域也有了通用邊緣AI方案

智能汽車是AI邊緣最火熱的應(yīng)用，但NVIDIA的目標是推動AI在所有邊緣應(yīng)用中的應(yīng)用。

GTC 2022上，NVIDIA推出了新的邊緣AI計算平臺IGX平臺，IGX平臺由NVIDIA IGX Orin超級計算機驅(qū)動，能更簡便的為制造、物流、醫(yī)療等安全敏感行業(yè)帶來了安全的工作環(huán)境。

NVIDIA IGX平臺同時包含軟件堆棧，可以針對不同的應(yīng)用場景進行編程和配置，這些軟件功能允許用戶在倉庫、手術(shù)室等需要人類與機器人協(xié)同工作的場景下提供主動安全用例。

黃仁勛說，“這將是世界上最強大、緊湊、節(jié)能的人工智能超級計算機。”

對于AI芯片而言，全棧軟件的重要性更加突顯。NVIDIA IGX平臺也能夠運行NVIDIA AI Enterprise軟件，優(yōu)化開發(fā)和部署人工智能工作流程并保證開發(fā)者能夠順利訪問必要的人工智能框架和工具。

NVIDIA表示，其將與Canonical、紅帽和SUSE等伙伴合作，為IGX平臺帶來長期的全棧支持。

另外，用戶可以通過NVIDIA Fleet Command在中央云部署安全的無線軟件和系統(tǒng)更新，方便快捷地管理工業(yè)或醫(yī)療環(huán)境中的IGX平臺。

過去，邊緣AI在制造、物流等行業(yè)中一般采用定制方案。但這些定制方案通常昂貴且缺少通用性，需要專為特定用例構(gòu)建。

為了能夠讓AI能在這些領(lǐng)域更好運用，IGX平臺則能夠提供可編程的一站式解決方案，NVIDIA推出了面向工業(yè)和醫(yī)療的IGX一站式解決方案。

“隨著人類與機器人的協(xié)作場景不斷豐富，各行各業(yè)都在為機器人、人工智能和計算制定新的安全標準。”黃仁勛說，“NVIDIA IGX將幫助企業(yè)構(gòu)建下一代由軟件定義的工業(yè)和醫(yī)療設(shè)備，并在與人協(xié)作的環(huán)境中安全運行。”

在制造和物流領(lǐng)域，IGX可以用來構(gòu)建安全、可靠的自動化平臺，從而改進人機協(xié)作關(guān)系，提高生產(chǎn)效率。

目前的生產(chǎn)機器人幾乎都內(nèi)置了反應(yīng)性安全功能，即在安全威脅和事件發(fā)生后做出反應(yīng)。比如有人走進了機器人的行進路線，機器人會減速或者停下。

IGX平臺能夠使生產(chǎn)安全性更上一層樓，不僅能夠增強機器人現(xiàn)有的反應(yīng)性安全功能，還能利用AI傳感器識別潛在的安全隱患并發(fā)出警報，從而減少事故。

例如當倉庫中的攝像頭看到有人進入機器人的路徑后可以向機器人發(fā)出信號改變路徑，從而并避免碰撞，并同時提醒該區(qū)域的所有員工和機器人。

據(jù)悉，NVIDIA已經(jīng)與制造領(lǐng)域巨頭西門子達成合作，在邊緣部署IGX平臺。

而在醫(yī)療領(lǐng)域，IGX則能夠解決傳感器、手術(shù)輔助機器人、患者檢測系統(tǒng)等臨床醫(yī)療儀器對算力的要求。

IGX能夠支持NVIDIA Clara Holoscan的運行，允許醫(yī)療設(shè)備開發(fā)人員連接邊緣、本地和云服務(wù)，并快速的開發(fā)由軟件定義的設(shè)備，將最新的AI成功直接帶入手術(shù)室。

NVIDIAIGX的醫(yī)療解決方案也已經(jīng)有合作伙伴，三家領(lǐng)先的醫(yī)療設(shè)備初創(chuàng)公司Activ Surgical, Moon Surgical and Proximie與NVIDIA合作，使用在IGX上運行的NVIDIA Clara Holoscan計算平臺為其手術(shù)機器人系統(tǒng)提供算力。

對于IGX在更廣泛邊緣AI場景的落地和應(yīng)用，NVIDIA表示凌華科技、研華、Dedicated Computing、控創(chuàng)、麗臺、MBX、Onyx、Portwell、Prodrive、Technologies和YUAN將率先為醫(yī)療設(shè)備行業(yè)構(gòu)建基于NVIDIA IGX的產(chǎn)品。

明年，NVIDIA將向開發(fā)者提供IGX Orin開發(fā)工具包，以讓企業(yè)快速測試原型產(chǎn)品。每個套件都集成用于高性能AI計算的GPU與CPU以及NVIDIA ConnectX-7 SmartNIC，以提供低延遲、高安全性的網(wǎng)絡(luò)。

80倍性能提升，入門級AI系統(tǒng)售價199美元起

2019年GTC，NVIDIA推出了售價99美元的機器人芯片Jetson Nano，給業(yè)界帶來了新的選擇，也將產(chǎn)品線拓展到了入門級AI。

今天，黃仁勛帶來了Jetson產(chǎn)品線的成員——Jetson Orin Nano系統(tǒng)級模塊。值得注意的是，相較上一代Jetson Nano產(chǎn)品，Jetson Orin Nano性能達到上一代產(chǎn)品80倍，售價為199美元起，為入門級別AI和機器人技術(shù)樹立了新標準，將于明年1月出貨。

推出的Orin Nano芯片是Jetson中尺寸最小的，但能夠提供每秒10萬億次操作的AI性能。

Jetson Orin采用了NVIDIA Ampere架構(gòu)GPU、Arm架構(gòu)的CPU，并支持下一代深度學習和視覺加速器、高速接口、高速內(nèi)存帶寬和多模式傳感器。

Jetson Orin Nano將提供兩個版本，高配版本具有8G內(nèi)存，提供40TOPS算力，功率可在7W至15W之間配置，低配版本具有4G 內(nèi)存，能夠提供20TOPS算力，功率可低至5-10W。

Jetson Orin Nano的目標是讓零售分析、工業(yè)質(zhì)量控制等領(lǐng)域中使用入門級設(shè)備和應(yīng)用程序的開發(fā)人員能夠以更低的成本訪問復雜的AI模型，這當然也需要生態(tài)的支持。

據(jù)悉，Jetson生態(tài)系統(tǒng)如今正在迅猛發(fā)展，目前為止已有超過100萬名開發(fā)人員、6000多客戶、2000家初創(chuàng)公司和150家合作伙伴加入該是生態(tài)。

Jetson Orin也已經(jīng)得到了佳能、約翰迪爾、微軟Azure、泰瑞達、TK電梯等合作伙伴的支持。

黃仁勛表示，Jetson Orin平臺旨在解決最棘手的機器人挑戰(zhàn)，并未超過700000名ROS開發(fā)人員帶來加速計算。

從云端到邊緣，在NVIDIA觸達的AI市場，既有不斷迭代的強大硬件，也有不斷豐富的軟件生態(tài)，挑戰(zhàn)者想要成功的難度都非常大。

標簽： 老黃雷神超級芯片