在ai技術日新月異的今天,英偉達再次以驚人的創新力引領行業潮流。近日,英偉達宣布推出新一代ai圖形處理器ckwell,其首款芯片gb200將於今年晚些時候正式發貨。這一重磅消息不僅彰顯了英偉達在ai芯片領域的領先地位,更預示著ai計算即將邁入全新的發展階段。
ckwell gpu的推出,是英偉達對ai計算性能極限的又一次挑戰。據悉,ckwell擁有六項革命性技術,能夠支持多達10萬億參數的模型進行ai訓練和實時llm推理。這一強大性能的背後,是英偉達對芯片技術的深入研究和不斷創新。
首先,ckwell采用了全球最強大的芯片設計。這款gpu由2080億個晶體管組成,采用量身定製的台積電4納米工藝製造。其獨特的雙晶粒設計,將兩個極限gpu裸片通過10 tb\/秒的芯片到芯片鏈路連接成一個統一的gpu,實現了前所未有的計算性能。
其次,ckwell搭載了第二代transformer引擎。這一引擎結合了ckwell tensor core技術和英偉達先進的動態範圍管理算法,使得ckwell能夠支持新的4位浮點ai,從而實現雙倍的計算和模型大小推理能力。這將大大加速ai模型的訓練和推理過程,提升ai應用的性能表現。
此外,ckwell還配備了第五代nvlink技術。這一技術為每個gpu提供了突破性的1.8tb\/s雙向吞吐量,確保了最複雜llm之間多達576個gpu之間的無縫高速通信。這將極大提升ai計算集群的性能和效率,為大規模ai模型的訓練和應用提供有力支持。
除了強大的計算性能,ckwell還在可靠性、安全性以及數據處理方麵進行了全麵升級。其內置的ras引擎實現了可靠性、可用性和服務性的提升,通過基於ai的預防性維護進行診斷和預測可靠性問題,從而最大限度地延長係統正常運行時間並降低運營成本。同時,ckwell還支持先進的機密計算功能,保護ai模型和客戶數據的安全,為隱私敏感行業提供了強有力的支持。此外,其專用的解壓縮引擎支持最新格式,能夠加快數據庫查詢速度,為數據分析和數據科學提供最高性能。
英偉達還為ckwell gpu設計了一款名為gb200 nvlink 2的服務器。這款服務器結合了72個ckwell gpu和其他旨在訓練ai模型的英偉達部件,為ai計算提供了強大的硬件支持。亞馬遜、穀歌、微軟和甲骨文等雲服務提供商將通過雲服務提供對gb200的訪問,這將使更多的企業和開發者能夠享受到ckwell帶來的強大性能。
值得一提的是,英偉達還推出了名為nim的創收軟件。這款軟件簡化了ai的部署過程,為客戶提供了在日益增多的競爭者中堅持使用英偉達芯片的另一個理由。通過nim,使用較舊的英偉達gpu進行推理變得更加簡單,同時允許公司繼續使用其已經擁有的數億個英偉達gpu。這將有助於降低企業的運營成本,並推動ai技術在更多場景下的應用。
英偉達的這一係列創新舉措,無疑將推動ai計算的發展進入一個全新的階段。隨著ckwell gpu和nim軟件的推出,英偉達將進一步鞏固其在ai芯片領域的領先地位,並引領整個行業向更高性能、更廣泛應用的方向發展。
對於企業和開發者來說,ckwell gpu和nim軟件的推出將為他們提供更加高效、便捷的ai計算解決方案。無論是訓練大規模的ai模型,還是部署ai應用到實際場景中,英偉達都將為他們提供強有力的支持和幫助。
黃仁勳提到,比亞迪將采用英偉達下一代智能汽車芯片thor。比亞迪同時將使用英偉達基礎設施進行自動駕駛模型訓練,以及英偉達isaac來設計\/模擬智能工廠機器人。
黃仁勳在發布會宣布了project gr00t項目,這是一個人形機器人的模型平台,旨在進一步推動英偉達在機器人方麵的研發。由gr00t驅動的機器人可以更好地理解自然語言,並通過觀察人類動作來模擬運動。英偉達將基於jetson thor(也是一款英偉達的gpu)來開發生產機器人。發布會上,迪士尼的機器人也來到現場,用的是英偉達為機器人設計的首款ai芯片jetson。
在未來,我們有理由相信,英偉達將繼續保持其在ai芯片領域的創新力和領導力,為ai技術的發展和應用貢獻更多的力量。同時,我們也期待著更多企業和開發者能夠借助英偉達的技術和產品,推動ai技術在各個領域的應用和發展,為人類社會的進步和發展做出更大的貢獻。
ckwell gpu的推出,是英偉達對ai計算性能極限的又一次挑戰。據悉,ckwell擁有六項革命性技術,能夠支持多達10萬億參數的模型進行ai訓練和實時llm推理。這一強大性能的背後,是英偉達對芯片技術的深入研究和不斷創新。
首先,ckwell采用了全球最強大的芯片設計。這款gpu由2080億個晶體管組成,采用量身定製的台積電4納米工藝製造。其獨特的雙晶粒設計,將兩個極限gpu裸片通過10 tb\/秒的芯片到芯片鏈路連接成一個統一的gpu,實現了前所未有的計算性能。
其次,ckwell搭載了第二代transformer引擎。這一引擎結合了ckwell tensor core技術和英偉達先進的動態範圍管理算法,使得ckwell能夠支持新的4位浮點ai,從而實現雙倍的計算和模型大小推理能力。這將大大加速ai模型的訓練和推理過程,提升ai應用的性能表現。
此外,ckwell還配備了第五代nvlink技術。這一技術為每個gpu提供了突破性的1.8tb\/s雙向吞吐量,確保了最複雜llm之間多達576個gpu之間的無縫高速通信。這將極大提升ai計算集群的性能和效率,為大規模ai模型的訓練和應用提供有力支持。
除了強大的計算性能,ckwell還在可靠性、安全性以及數據處理方麵進行了全麵升級。其內置的ras引擎實現了可靠性、可用性和服務性的提升,通過基於ai的預防性維護進行診斷和預測可靠性問題,從而最大限度地延長係統正常運行時間並降低運營成本。同時,ckwell還支持先進的機密計算功能,保護ai模型和客戶數據的安全,為隱私敏感行業提供了強有力的支持。此外,其專用的解壓縮引擎支持最新格式,能夠加快數據庫查詢速度,為數據分析和數據科學提供最高性能。
英偉達還為ckwell gpu設計了一款名為gb200 nvlink 2的服務器。這款服務器結合了72個ckwell gpu和其他旨在訓練ai模型的英偉達部件,為ai計算提供了強大的硬件支持。亞馬遜、穀歌、微軟和甲骨文等雲服務提供商將通過雲服務提供對gb200的訪問,這將使更多的企業和開發者能夠享受到ckwell帶來的強大性能。
值得一提的是,英偉達還推出了名為nim的創收軟件。這款軟件簡化了ai的部署過程,為客戶提供了在日益增多的競爭者中堅持使用英偉達芯片的另一個理由。通過nim,使用較舊的英偉達gpu進行推理變得更加簡單,同時允許公司繼續使用其已經擁有的數億個英偉達gpu。這將有助於降低企業的運營成本,並推動ai技術在更多場景下的應用。
英偉達的這一係列創新舉措,無疑將推動ai計算的發展進入一個全新的階段。隨著ckwell gpu和nim軟件的推出,英偉達將進一步鞏固其在ai芯片領域的領先地位,並引領整個行業向更高性能、更廣泛應用的方向發展。
對於企業和開發者來說,ckwell gpu和nim軟件的推出將為他們提供更加高效、便捷的ai計算解決方案。無論是訓練大規模的ai模型,還是部署ai應用到實際場景中,英偉達都將為他們提供強有力的支持和幫助。
黃仁勳提到,比亞迪將采用英偉達下一代智能汽車芯片thor。比亞迪同時將使用英偉達基礎設施進行自動駕駛模型訓練,以及英偉達isaac來設計\/模擬智能工廠機器人。
黃仁勳在發布會宣布了project gr00t項目,這是一個人形機器人的模型平台,旨在進一步推動英偉達在機器人方麵的研發。由gr00t驅動的機器人可以更好地理解自然語言,並通過觀察人類動作來模擬運動。英偉達將基於jetson thor(也是一款英偉達的gpu)來開發生產機器人。發布會上,迪士尼的機器人也來到現場,用的是英偉達為機器人設計的首款ai芯片jetson。
在未來,我們有理由相信,英偉達將繼續保持其在ai芯片領域的創新力和領導力,為ai技術的發展和應用貢獻更多的力量。同時,我們也期待著更多企業和開發者能夠借助英偉達的技術和產品,推動ai技術在各個領域的應用和發展,為人類社會的進步和發展做出更大的貢獻。