【NVIDIA AIE-License授权】基于NVIDIA NIM快速部署LLM模型推理服务

本商品为NVIDIA NIM专用license授权；

具体产品报价，请联系客服或商务人员提供；

本商品支持使用阿里云余额支付，发票由店铺主体“上海曙云信息技术有限公司”开具；

如有其他疑问请联系店铺客服；

计算巢自动化部署请点击：https://market.aliyun.com/products/52746001/cmgj00067281.html

NVIDIA NIM

NVIDIA NIM是NVIDIA AI Enterprise的一部分，是一套易于使用的预构建容器工具，目的是帮助企业加速生成式AI的部署。这些预构建的容器支持广泛的AI模型。NIM微服务只需一个命令即可帮助企业客户部署AI模型，以便使用标准API和几行代码轻松集成到企业级AI应用程序中。NIM基于可靠的基础 (包括Triton推理服务器、TensorRT、TensorRT-LLM和PyTorch等推理引擎) 构建，旨在促进企业客户根据其自身需求和选择大规模无缝进行AI推理，从而确保企业可以满怀信心地在任何地方部署AI应用程序。无论是在本地还是在云端，NIM都能高效实现大规模加速生成式AI推理。