NVIDIA宣布H100 GPU再次創下MLPerf基準測試新紀錄,約比半年表現快上3倍意味將能加快人工智慧運算加速
NVIDIA表示,去年宣布推出的H100 Tensor Core GPU再次於MLPerf基準測試創下新紀錄,相比近半年前的紀錄快上3倍。 此次以10752組H100 Tensor Core GPU與Quantum-2 InfiniBand網路技術構成的NVIDIA EOS人工智慧超級電腦,在短短3.9分鐘內完成以Open AI GPT-3大型自然語言模型、多達1...
NVIDIA表示,去年宣布推出的H100 Tensor Core GPU再次於MLPerf基準測試創下新紀錄,相比近半年前的紀錄快上3倍。 此次以10752組H100 Tensor Core GPU與Quantum-2 InfiniBand網路技術構成的NVIDIA EOS人工智慧超級電腦,在短短3.9分鐘內完成以Open AI GPT-3大型自然語言模型、多達1...
Arm 稍早於 Computex 2023 展前正式公開包括多個新款 CPU、GPU 核心產品的 2023 全面運算解決方案(TCS23)。包括採用台積電 N3E 製程的 Cortex-X4,為 Arm 史上最快的 CPU,其他還有 Cortex-A720 與 Cortex-A520。GPU 方面則有針對旗...
針對目前多數業者採用的大型自然語言模型應用需求,NVIDIA宣布以開源架構設計的TensorRT-LLM模型,強化H100 GPU在大型自然語言模型的推論能力。 此項開源架構設計的TensorRT-LLM模型將在未來幾周內提供,本身以TensorRT深度學習框架組成,包括經最佳化調整的內核、前處理及後處理步驟,加上多組GPU、多節點通訊基礎,可在NVIDIA GP...
在2022年9月宣布推出以雷神索爾為稱的超級車載電腦DRIVE Thor時,NVIDIA除了說明此款超級車載電腦將於2024年推出,並且保留可使用下一代GPU的設計彈性,此次GTC 2024則是宣布將換上全新「Blackwell」GPU設計,藉此提供更高智慧車輛運算能力。 ▲換上全新「Blackwell」GPU設計,藉此提供更高智慧車輛運算能力的新版DRIVE...
Business Insider報導指稱,Twitter內部已經低調採購10萬組GPU,有可能準備用於訓練其自動生成式人工智慧系統。 不過,相關消息並未透露Twitter採購GPU規格,但研判有可能是NVIDIA新推出的G100 GPU加速器,並且將配置在Twitter位於亞特蘭大的資料中心。 除了採購GPU訓練人工智慧,Twitter日前也陸續從Googl...
繼先前以旗下Predator品牌推出採用NVIDIA、AMD及Intel旗下GPU的顯示卡產品後,宏碁稍早再次宣布以旗下Nitro品牌推出鎖定不同市場族群的顯示卡產品,而首波產品則是採用AMD日前揭曉Radeon RX 7600 XT GPU,並且以Nitro Radeon RX 7600 XT OC為稱的顯示卡,預計在1月24日晚間10點與全球市場同步開賣。 ...
繼去年推出包含Cortex-X3 CPU、Immortalis GPU等資產組合在內的2022全面運算解決方案 (TCS22,Total Compute Solutions 2022)之後,Arm此次在Computex 2023展前活動宣布推出全新2023全面運算解決方案,分別揭曉Cortex-X4 CPU,並且更新Cortex-A720 CPU與Cortex-A520 CPU...
Meta公布其用於自動生成式人工智慧的硬體基礎設施,其中包含兩個各自採用2萬4576組NVIDIA H100 GPU、可對應大型數據中心算力規模的運算叢集。 相較Meta在2022年公布用於人工智慧運算叢集、採用1.6萬組NVIDIA A100 GPU的AI Research SuperCluster (RSC),此次公布規格幾乎提升超過2倍以上,並...
NVIDIA在SC23超算大會上宣布推出採用H200 Tensor Core GPU的HGX H200運算平台,藉此強化各類雲端執行個體,並且推動人工智慧執行效能。 相較先前推出的H100,NVIDIA表示H200整合HBM3e記憶體,藉此對應更高資料處理吞吐流量,並且能配合GPU加快人工智慧運算與大型自然語言模型執行效率。透過總容量達141GB的H...
Intel稍早宣布推出新款針對資料中心打造的Agilex 7 FPGA架構處理器,其中採R-Tile形式的小晶片 (Chiplet)設計,並且結合PCIe 5.0與CXL連接能力,目前已經批量進行量產。 由於結合PCIe 5.0連接設計,將對應2倍以上的資料傳輸頻寬,同時也能藉由CXL連接設計提高4倍資料傳輸量,配合使用Intel第四代Xeon Scalable可...