TensorRT 8版本更新，讓自然語言理解互動反應時間縮減至個位數毫秒內

透過A100 GPU加速 除了將人工智慧技術應用在圖像處理、自駕車運作或超算加速，包含語音識別、電商服務、自動化生產等也是NVIDIA持續佈局應用領域。而隨著TensorRT 8版本的深度學習推論平台更新，同時更藉由A100 GPU讓BERT自然語言理解互動反應時間縮減至個位數毫秒內，意味能讓各類以自然語言為基礎的人工智慧推論速度更快。 人工智慧推論運算背後…