当AI成为业务运营的骨干，我们是否准备好迎接它带来的风险？AI的确为企业带来效率提升与决策加速，正如Trend Micro产品管理总监Fernando Cardozo在AWS re:Invent 2024所言：“AI已经完全改变了云计算的局面，提高了效率、可扩展性和性能，但这种新技术的普及也为企业带来了各种风险。”
问题不在于是否该用AI，而在于如何“安全地”用AI。在云计算环境中，构建一套防御周全、可调整、具可观测性的AI安全体系，已成为企业不得不面对的课题。这正是AWS云计算架构的优势所在——将安全融入AI系统的每一个节点。
企业对AI技术的采用正以前所未有的速度增长。从金融、医疗到制造业，AI正重塑各行各业的运营模式。然而，随着采用率提升，安全挑战也随之增加。根据Cardozo的分析，云计算AI部署面临的风险不仅限于传统云计算安全问题，还包括AI特有的威胁矢量，例如模型劫持、数据中毒和深伪攻击。
AWS提供全面集成的安全服务生态系统，帮助企业应对AI特有的安全挑战。从Amazon Bedrock的安全大型语言模型（Large Language Models, LLMs）部署，到Amazon SageMaker的端到端ML安全性，AWS创建了多层次防护体系，确保企业能够安全地采用和部署AI解决方案。
在Fernando Cardozo的演讲中，他提到一个新加坡金融机构面临的真实挑战：攻击者利用深伪技术模仿公司高管在视频会议中，要求财务部门进行紧急资金转移。这类攻击之所以特别危险，在于现代深伪技术的制作成本低廉且效果逼真——“生成一个深伪视频只需15分钟，而且成本非常低。”
该金融机构通过在员工设备上部署AI驱动的深伪检测解决方案，成功识别出可疑视频会议，避免了潜在的财务损失。这种解决方案与AWS CloudTrail集成，对异常活动进行监控和记录。
另一案例涉及一家健康科技公司，其AI诊断系统在开发过程中意外将含有病患个人数据的数据集上传到公共AI开发平台。这种情况与三星工程师不慎将源代码片段上传到公共AI助手的事件类似。
该公司通过实施基于AWS Lambda的AI网关进行了补救，该网关可检测和阻止包含敏感资讯的提示，并集成Amazon Simple Storage Service (Amazon S3) 知识库的数据分类系统，确保敏感数据获得适当标记和保护。
实施AWS安全解决方案的企业报告了显著成效：
AI系统的安全始于数据安全。Amazon S3作为许多AI训练和推理工作流程的知识库，需要严格的安全控制：
Cardozo在演讲中提到了一个安全架构案例：“想象您在Amazon S3知识来源中有敏感资讯，该数据由AI处理并被AWS Lambda函数放入队列，然后由执行的AWS App Runner消费，接着您的模型在Amazon Bedrock中执行。”
在此架构中：
企业需要全面了解其AI系统处理的数据类型和风险。Cardozo建议：
Amazon Bedrock和Amazon SageMaker为企业提供了安全的AI模型开发和部署环境：
MITRE ATLAS（Adversarial Threat Landscape for Artificial-Intelligence Systems）框架为AI系统提供了威胁建模框架。Cardozo强调将AWS CloudTrail日志与MITRE ATLAS框架集成的重要性：
“当您收集来自CloudTrail和VPC Flow Logs的资讯时，非常重要的是应将该资讯与MITRE ATLAS连接和关联起来。MITRE ATLAS是由MITRE创建的框架，帮助组织从与攻击技术相关的遥测中识别任何可疑活动。”
具体实施包括：
面对提示注入和模型越狱攻击，企业可实施多层防御：
根据Cardozo的统计，“30%的云计算攻击仍然是由于云计算误配置造成的。”企业应实施：
安全的AI应用程序开发结合了传统DevSecOps和AI特有的安全考量：
保护用户免受AI驱动攻击的策略包括：
Cardozo提出了AI成熟度的六个阶段：
企业应根据自身AI成熟度制定相应的安全策略：
随着AI应用扩展，确保合规性变得至关重要：
如Cardozo所强调：“AI已经到来，将长期存在。我们都知道，新技术正在快速发展，我们有一系列新的安全挑战需要解决。”
成功的企业AI策略需要：
AI技术正以前所未有的速度重塑企业格局，但安全风险也同步增长。通过AWS全面的安全服务生态系统，企业可以构建多层次防御体系，实现创新与安全的平衡。正如Cardozo所言：“安全地长存下去”应成为每个采用AI技术企业的终极目标。
通过实施本文讨论的策略，结合Amazon Bedrock、Amazon SageMaker、AWS Lambda等AWS服务，企业可以在AI时代中蓬勃发展，同时有效管理相关风险。