NVIDIA Developer · AI· Tanya Lenz·· 8 天前AI 评分25
NVIDIA Confidential Computing 启用隐私安全的高性能生产 AI 推理
Enabling Private High-Performance Production AI Inference with NVIDIA Confidential Computing
AI 导读
NVIDIA Confidential Computing（CC）通过内存加密的机密虚拟机（CVM）和机密 GPU，为 LLM 推理提供安全运行路径。随着大语言模型推理在个人、企业和受监管场景中处理敏感信息与专有模型上下文，数据必须在可信环境中处理。NVIDIA CC 旨在让生产级高性能 AI 推理在加密环境中运行。
来源：NVIDIA Developer · AI · developer.nvidia.com