关键字: [Amazon Web Services Nitro Enclaves, Confidential Computing, Secure Ai, Protect Sensitive Data, Isolate Ai Workloads, Cryptographic Attestation]
本文字数: 400, 阅读完需: 2 分钟
导读在亚马逊云科技AI基础设施日活动上,Soudir发表了题为”使用机密计算实现安全AI”的演讲。在演讲中,他阐释了亚马逊云科技如何通过利用机密计算来保护敏感数据和模型,从而实现安全AI。具体而言,他解释了亚马逊云科技采用三大原则来定义安全AI:从亚马逊云科技本身保护AI数据、隔离客户的AI工作负载,以及将保护扩展到ML加速器。该演讲重点介绍了亚马逊云科技Nitro Enclaves如何实现隔离敏感AI工作负载、保护AI模型的知识产权,并为生成式AI应用程序实现安全多方协作。
演讲精华在亚马逊云科技(AWS)的视野中,确保人工智能(AI)应用程序的安全性是一项基本职责。为了保护敏感的生成式AI(GenAI)数据应用,亚马逊云科技采取了三个原则性的方法。
首先,亚马逊云科技致力于确保AI数据的安全,包括模型、权重、提示和数据,防止亚马逊云科技本身作为云运营商访问客户的这些敏感信息。其次,亚马逊云科技为客户提供了一种机制,使他们能够隔离和分离自己的AI工作负载,在隔离的执行环境中运行高风险的AI模型,避免内部操作人员和其他组件访问敏感数据。第三,亚马逊云科技将这种保护扩展到了Nitro系统之外的ML加速器,如NVIDIA加速器,用于训练和推理任务。
为了实现上述目标,亚马逊云科技引入了保密计算(Confidential Computing)的概念。保密计算的本质是在使用敏感数据和代码时对其进行保护,利用专门的硬件和固件。亚马逊云科技发现客户希望从两个维度获得保护:一是防止亚马逊云科技作为云运营商访问其敏感代码和数据;二是提供机制隔离客户自身的工作负载,防止内部操作人员和其他组件访问敏感数据。
为满足客户的这两个维度需求,亚马逊云科技提供了两种解决方案。首先,亚马逊云科技Nitro系统是最新一代EC2实例的底层平台,可实现第一个维度的隔离,确保亚马逊云科技运营商无法访问客户工作负载。其次,亚马逊云科技Nitro Enclaves解决了第二个维度问题。客户可将应用程序容器化,并使用开源工具Nitro CLI将其部署到隔离的执行环境中。Nitro Enclaves具有关键特性:从父EC2实例中分配CPU和内存资源;使用加密散列(PCR0)对Enclave进行加密签名,任何对Enclave内容的更改都会改变签名;与亚马逊云科技密钥管理服务(KMS)集成,只有具有特定PCR0签名的Enclave才能解密由KMS保护的数据。
在GenAI场景中,Nitro Enclaves可用于保护大型语言模型(LLM)。模型提供方可使用KMS密钥对LLM模型权重加密,并在密钥策略中只允许具有特定PCR0签名的Enclave解密。即使模型被盗用,也无法在其他环境中解密和运行。亚马逊云科技解决方案架构师在演示中展示了这一流程,先在EC2实例上启用Nitro Enclaves支持,然后使用Nitro CLI工具部署和描述Enclave,查看其PCR0签名。接着,他在KMS密钥策略中添加了只有具有特定PCR0签名的Enclave才能解密的条件,实现了对LLM模型权重的保护。
除保护LLM模型本身,客户还可能需要保护输入的提示和查询中的敏感数据。为此,亚马逊云科技提供了另一种模式。客户可将敏感数据脱敏模块打包到Enclave中运行,使用KMS密钥加密脱敏后的令牌,从而保护原始敏感数据。在演示中,亚马逊云科技解决方案架构师部署了包含LLM和脱敏模块的解决方案,脱敏模块使用KMS密钥加密敏感字符串,并将其替换为加密令牌,传递给LLM进行处理。LLM响应则经过反向处理,将加密令牌替换回原始敏感数据,从而实现了端到端的数据保护。
这些安全功能已被医疗保健、汽车等行业的独立软件供应商(ISV)所采用。亚马逊云科技与ISV合作,帮助他们构建数据和AI市场,允许客户安全地消费ISV提供的LLM模型。
总之,亚马逊云科技通过硬件隔离、加密和密钥管理等多重机制,为GenAI应用程序提供了全方位的数据保护。无论是防止云运营商访问、隔离客户自身的工作负载,还是保护LLM模型、提示和查询中的敏感数据,亚马逊云科技的保密计算服务都可以满足客户的安全需求,助力GenAI应用的发展。
总结这篇演讲深入探讨了利用亚马逊云科技(AWS)的保密计算服务来保护人工智能(AI)数据和模型的原则与技术。它强调了三个关键原则:从亚马逊云科技本身保护AI数据、使客户能够隔离他们的AI工作负载,以及将保护扩展到机器学习(ML)加速器。核心解决方案围绕着亚马逊云科技Nitro Enclaves,它提供了具有加密证明的隔离执行环境,以验证其完整性。
演示展示了一个多方协作场景,其中甲方安全地使用乙方的大型语言模型(LLM)模型。乙方使用亚马逊云科技KMS加密LLM模型权重,只允许具有经过验证的加密签名的特定Nitro Enclave解密和运行模型。这确保了模型免受未经授权的访问或渗透的保护。
另一种模式涉及在单独的Nitro Enclave中运行的匿名化模块,用于在将敏感提示发送到LLM enclave之前对其进行清理。匿名化模块使用来自亚马逊云科技KMS的加密材料(只能通过证明访问),将敏感数据加密并替换为令牌,从而降低了数据泄露的风险。
总的来说,这篇演讲强调了亚马逊云科技为AI工作负载提供强大的安全功能,使客户能够安全地进行协作,同时保护他们的敏感数据和知识产权。
亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务易配资股票，服务全球245个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI的首选，通过生成式AI技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI应用的大模型等工具、以及开箱即用的生成式AI应用。深耕本地、链接全球 -- 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。
亚马逊云科技模型亚马逊云Nitro发布于：北京市声明：该文观点仅代表作者本人，搜狐号系信息发布平台，搜狐仅提供信息存储空间服务。