TensorRT 8版本更新，讓自然語言理解互動反應時間縮減至個位數毫秒內
透過A100 GPU加速 除了將人工智慧技術應用在圖像處理、自駕車運作或超算加速，包含語音識別、電商服務、自動化生產等也是NVIDIA持續佈局應用領域。而隨著TensorRT 8版本的深度學習推論平台更新，同時更藉由A100 GPU讓BERT自然語言理解互動反應時間縮減至個位數毫秒內，意味能讓各類以自然語言為基礎的人工智慧推論速度更快。 人工智慧推論運算背後...
TensorRT
文本直送科技新聞: NVIDIA 在中國 GTC 宣布 TensorRT 3 ，加速大型資料中心 AI 推論
NVIDIA 在稍早的中國 GTC大會宣布 TensorRT 3推論軟體，能夠應用在包括影像與語音辨識、自然語言處理、圖像搜尋與個人化建議等各類 AI應用領域，並且標榜 TensorRT搭配 NVIDIA Tesla加速器僅需 CPU 解決方案 1/10 成本，卻能在相同的應用中發揮 40 倍推論效能。 TensorRT 3 主要針對江 AI 部屬到線上產品，...