re:Inforce 2024：在生成式AI的世界里，安全工作永无止境 原创

在过去一年亚马逊云科技全球拒绝了超过240亿次尝试攻击Amazon S3的行为，阻止了近2.6万亿次尝试发现Amazon EC2上漏洞的行为。

在今年的re:Inforce上，公布了这样一组惊人数据，可以想象在生成式AI被应用到攻击后，这个数据将会呈指数增长。也正是有了亚马逊云科技在安全上的投入，企业在云上的业务才不会受到干扰，客户可以更加安全地创新。

今年的re:Inforce，亚马逊云科技首席信息安全官Chris Betz并没有对生成式AI高谈阔论，而是从安全本身出发，对生成式AI可以为安全带来的帮助娓娓道来。

自上而下的安全文化

“建立正确的文化非常重要，公司开发的机制、流程和系统可以帮助在整个企业中强化了这种文化。”Chris Betz说。

亚马逊云科技首席信息安全官Chris Betz

文化的建立是一个非常复杂和困难的过程，安全文化也是如此。

Chris Betz在从业过程中担任过多家企业的CISO，作为安全领导者他首先保证的是与业务领导者、董事会深入合作，确保大家的方向保持一致。其次，确保整个企业具有安全所有权，让业务领导者能够在每一层次上对安全负责并感到深度的所有权。第三，在正确的时间和地点拥有正确的专业知识，确保安全思维在工程开发过程的早期阶段就能介入。最后，在整个组织中保持问责制。

亚马逊云科技经过长期努力建立了非常强大的安全文化，当然安全文化如果没有持续的加强和投资也会丧失，亚马逊云科技的每个人都在努力维护和发展这种文化。

每周五，亚马逊云科技的首席执行官和亚马逊云科技安全领导都会与各个服务团队会面，领导者们用宝贵的时间，选择讨论的就是安全问题。

为了支持服务团队扩展安全最佳实践，亚马逊云科技还创建了Guardians计划，通过在安全团队和开发团队之间分配安全所有权来扩展安全流程和专业知识。

全方位的安全保护

亚马逊云科技始终秉承"安全自主设计"的理念，制定行业领先的实践、技术和控制措施，并深度融入各个层面，从物理数据中心、网络设计、服务架构，为企业的应用程序和数据提供强大的安全性和数据保护。

比如2023年亚马逊云科技 re:Invent上发布的Graviton 4，Graviton 4完全加密了所有高速物理硬件接口，包括DRAM、PCIe到Nitro卡以及双插座实例中芯片与第二个Graviton插座之间的芯片间链路。这加强Nitro的安全性，加密功能增加了深度防御，有助于防范各种基于硬件的攻击。

而且从2018年以来，亚马逊云科技就受益于Nitro架构，Nitro系统还是保护机器学习和生成AI工作负载的关键组件，它可以隔离亚马逊云科技操作员和您的AI数据。Chris Betz说，Nitro驱动的Amazon EC2实例上进行的100%机器学习都在安全的基础设施中。

亚马逊云科技也是Rust的超级粉丝，Rust提供了一系列强大的安全优势，去年亚马逊云科技生产中使用的98%以上的软件包都是使用Rust编写。

同时测试也非常重要，如果能为所有潜在输入进行测试将大大提升安全性。自动推理可以考虑系统、算法和配置的无限可能输入，能够了解系统能够表现出哪些行为，然后识别并修复不需要的行为。

今年亚马逊云科技推出了Amazon IAM来处理所有亚马逊云科技身份和访问管理策略评估，现在IAM每秒在全球处理超过10亿个API调用。在自动推理提供的防护措施下，能够大幅优化引擎性能，并不会影响正确性。

信任与零信任

礼来公司安全架构与工程副总裁Ash Edmondson谈到了在云端建立信任的问题，她认为云端的信任在于找到控制和委托之间的正确平衡。

一方面我们要信任云上的安全，另一方面云要采用零信任的原则。

拥有健全的零信任架构企业能更好地防御网络安全事件，去年re:Inforce宣布了Amazon Verified Permissions、Amazon Management Console Private Access和Amazon Verified Access的新功能。

为了帮助企业更容易实施其零信任架构，今年re:Inforce发布了Amazon Private CA Connect for SCEP 预览版，大大减少使用亚马逊云科技管理的私有CA和SCEP服务管理的公钥基础设施操作所需的时间和资金。

在今年早些时候，亚马逊云科技就开始为企业的管理账户根用户强制实施MFA，帮助客户保护用户账户免受凭证攻击，降低账户被接管的风险。

同时宣布，Amazon IAM支持使用密钥作为第二个身份验证因素，Amazon IAM客户可以使用手机和笔记本电脑上内置的身份验证器，添加抗钓鱼的加密凭证提高登录体验。

IAM Access Analyzer的访问分析器，提供最小权限的未使用访问建议。利用自动推理提供发现，使安全团队能够集中查看整个组织中未使用的访问权限，并获得规范性指导和策略建议，帮助他们解决这些发现并完善未使用的访问权限。

这四项新功能标志着组织实施健全零信任架构又迈进了一步，然而实现真正全面的监控和自动化是具有挑战性的。Amazon GuardDuty恶意软件防护功能现已支持Amazon S3，扩展功能允许用户扫描新上传到Amazon S3存储桶的对象，以检测潜在的恶意软件、病毒和其他可疑上传内容，并在这些对象被注入到后续流程之前采取隔离措施。

生成式AI的新安全阶段

re:Inforce生成式AI的内容姗姗来迟，也吊足了在场所有人的胃口。

现在所有人工智能和机器学习独角兽公司中，有96%以上都运行在亚马逊云科技上，2024年福布斯人工智能50强中，有90%也运行在亚马逊云科技上。

亚马逊云科技构建的生成式三层技术栈已经不用过多赘述，现在要做的如何促进人工智能技术的安全使用。

Amazon GuardDuty可以检测可疑和潜在的恶意活动，包括生成式人工智能工作负载，例如异常移除Bedrock安全防护栏、更改模型训练源和可疑的模型使用情况。而且人工智能也整合到亚马逊云科技的安全工具和服务中，Amazon Config添加了自然语言查询改进，简化了亚马逊云科技资源配置和合规性数据的调查和搜索。

会上Amazon CloudTrail Lake新推出了基于生成式AI的自然语言查询功能预览版，企业无需编写复杂的SQL查询，即可轻松地在CloudTrail Lake 中分析亚马逊云科技的活动事件。例如，过去一周内每个服务记录了多少错误，每个错误的原因是什么，以及显示昨天通过控制台登录的所有用户等。

亚马逊首席安全官Steve Schmidt谈到，生成式AI代表了我们为客户保护其使用这一旅程的最新阶段。

亚马逊云科技在内部创建了“生成式人工智能安全范围矩阵”，矩阵帮助客户定义人工智能项目的安全要求，提供了对启用人工智能应用程序的独特安全影响的可见性，并突出了作为开发人员需要考虑的治理和合规性、法律和隐私、风险管理、安全控制和整体弹性。

亚马逊首席安全官Steve Schmidt

Steve Schmidt还提到了企业做出更好决策的四项建议，第一，制定生成式AI安全标准；第二，创建针对人工智能应用程序的威胁建模指南；第三，新工具的开发；第四，安全审查。当生成式AI解决方案从概念验证转移到生产阶段时，企业还需要确保正确处理敏感数据、检索增强生成(RAG)的信任边界、针对人工智能应用程序进行特别优化测试、在系统的输入和输出上实施适当的安全防护和防护栏。

所以，在生成式AI的世界里，安全工作永无止境。