生成式AI应用市场快速成长，亟需更强大的运算效能支援。NVIDIA在最新的MLPerf基准测试中，NVIDIA TensorRT-LLM软体，可加速和简化大型语言模型的复杂推论工作，将GPT-J LLM上的NVIDIA…