需要的环境,适合什么样的场景?

发布网友发布时间：2023-04-13 17:57

共1个回答

热心网友时间：2023-04-22 18:33

蓝海大脑深度学习液冷服务器研究人员表示:
TensorRT Inference Server在标准的Linux环境都可以使用，GPU最好需要有一定的CUDA的计算能力，比如像数据中心如P4，V100，P40等等，当然英伟达的其他GPU也是可以的，实时和并发可以由用户去配置、指定。TensorRT Inference Server对CPU和GPU都支持，不是只能用GPU建模，纯CPU的workload也是可以支持的。

声明：本网页内容为用户发布，旨在传播知识，不代表本网认同其观点，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。E-MAIL:11247931@qq.com