伴随chatgpt大火，生成式ai作为一种全新的技术范式，正在如火如荼地走向企业业务，让ai在企业加速落地，改变人们解决问题的方式。然而，随着生成式ai影响的扩大和应用场景的井喷，如何确保生成式ai的安全性，成为企业it和安全部门不可回避的挑战。
亚马逊云科技大中华区人生就是博尊龙凯时的解决方案架构部总监代闻近日在“2023亚马逊云科技re:inforce中国站”的主题演讲中表示：“生成式ai应用就像是海面上的冰山，要想在企业里安全地驾驭这项新技术，还需要关注海面下的冰川。我们不能只关注ai应用本身，而应从全栈的角度，去全面审视应用、模型、数据、基础架构的安全规范、技术策略和平台工具。”
国际开源安全组织发布的2023年针对大语言模型应用的十大安全威胁提醒我们，提示词注入、数据泄露、沙箱隔离不足、未经授权的代码执行、ssrf漏洞、过度依赖llm生成的内容、人工智能调整能力不足、访问控制不足、错误处理不当和训练数据污染等安全威胁不得不防。
亚马逊云科技大中华区人生就是博尊龙凯时的解决方案架构部总监代闻
这些安全威胁正在发生，以数据泄露为例，某大型国际企业在采用了某个基于大语言模型的公开聊天应用服务后，在20天内连续出现了3起数据泄露事件，包括良品率泄露、代码泄露、会议内容泄露等，这些是访问控制不足的重要体现。
由此可见，aigc时代安全是构建生成式ai应用不可回避的议题。代闻从数据和模型安全、应用安全以及全球合规三个方面展开了详细论述。
数据和模型安全是构建ai应用的关键
生成式ai的井喷对于大多数企业的数据平台提出了更高的要求。
亚马逊云科技在大数据和ai领域耕耘多年，提供了贯穿生成式ai全周期的数据治理，包括从数据源的获取到数据的存储和查询，再到将数据传输给ai平台进行模型训练、调优和推理，以及全面实施数据分类和治理的一整套人生就是博尊龙凯时的解决方案、产品服务和最佳实践，帮助企业加速落地端到端的云原生数据战略，为生成式ai 提供高质量的数据支持。
数据安全涉及三个维度：
一、保护存储中的数据。
企业在使用开源或商用大语言模型时需要对行业化数据、场景化数据进行微调，要保护这些高质量数据，既要防止数据泄露，又要防止数据篡改。这就要求企业要全面保障数据存储、从数据湖到模型训练的数据传输，以及模型应用的环境。亚马逊云科技通过实施安全密钥管理、静态数据加密、强制实施访问控制、利用机制限制数据访问，来保护存储中的数据。
本次大会上，亚马逊云科技推出了“敏感数据保护人生就是博尊龙凯时的解决方案”，可实现对企业敏感数据的自动化发现，并在统一平台管理数据资产。该方案允许客户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型，利用机器学习、模式匹配的方式自动识别敏感数据，并提供可视化面板，帮助客户更轻松地对敏感数据进行管理和保护。
二、保护传输中的数据。
亚马逊云科技从实施安全密钥和证书管理、执行传输中加密、自动检测意外数据访问、对网络通信进行身份验证四个方面对传输中的数据进行保护。为了多层次保护传输中的数据，亚马逊云科技通过跨区域之间的数据传输、vpc内部以及vpc之间的传输、迁移上云的过程中、强烈要求客户将应用程序升级到tls 1.2、并使用aes 256作为密码，从整个基础架构上实现应用层的加密和传输的保护。
三、保护使用中的数据。
亚马逊云科技从身份认证、隔离环境、多方协作以及数据共享四个方面，对使用中的数据进行保护。
模型安全：
模型训练后进入生产环境的安全防护同样重要。亚马逊云科技针对大模型推出了amazon bedrock和多种生成式ai的服务和功能，提供了广泛的基础模型，以帮助客户根据自身需求构建和扩展自己的生成式ai应用程序。
amazon bedrock接入了广泛的基础模型，通过api可以调用大模型，加速生成式ai应用程序的开发，而无须管理底层的基础设施。amazon bedrock会负责任地选取一些人生就是博尊龙凯时的合作伙伴(如ai21 labs、anthropic、stability ai、cohere)以及基础模型，便于客户结合场景快速地找到最合适的、能力最强的基础模型。
代闻强调：企业使用组织内部的数据来训练大模型，amazon bedrock保证给大模型做了私有拷贝，只为这一客户服务，保证训练数据只在客户的账户里，不会再跟其他任何大模型共享，amazon bedrock也不会拿任何用户的数据增进自己的模型。这一保证能很好地打消企业在采用大模型时对于数据主权、数据保护方面的担忧。
amazon bedrock还能全面地使用亚马逊云科技提供的安全功能，与amazon kms、amazon iam等集成后可以很好地管理加密、权限控制和所有行为的日志。
此外，亚马逊云科技还支持模型提供商提供负责任的ai，同时也提供了自己的大模型amazon titan给客户使用，包括能够执行文本类任务的titan text及能执行个性化推荐任务的titan embeddings在内的两个基础模型。亚马逊云科技致力于开发公平且准确的ai和机器学习服务，并为客户提供负责任地构建相关应用程序所需的工具和指导，亚马逊云科技承诺amazon titan可以通过减少和消除不当或有害的内容来支持负责任ai的实现。
应用安全是实现ai价值的保障
应用能够创造价值，而应用安全则是实现ai价值的重要保障。
应用安全的防护包括两个阶段：
1、开发流程中的安全(devsecops)
从devops到devsecops，安全应该贯穿从开发、持续集成、持续部署到投产、监控以及整个反馈的过程中。亚马逊云科技利用自身经验，将ai防护应用到软件开发的全生命周期，让开发更便捷，更安全。
亚马逊云科技近期发布了两大ai开发安全能力：其中，amazon codewhisperer服务是一款ai编程助手，内置代码安全扫描功能，可根据开发者指令利用内嵌的基础模型实时生成代码建议，可帮助查找难以检测的漏洞并提出补救建议;amazon codeguru security可以扫描代码，在代码中寻找包括调用包漏洞在内的诸多代码逻辑漏洞，还能在cicd过程中通过人工智能和机器学习的方式自动降低误报率，同时它基于api设计，能够便捷地集成到开发的工作流中去，实现集中化和扩展性。
2、运行中的安全
由于大模型可以跨领域，因此未来大模型很可能实现跨部门的支持，允许各个部门的业务人员访问。如何实现良好的访问隔离，为不同部门提供不同的权限呢?针对应用运行当中的安全访问，代闻建议企业可以构建零信任的应用安全访问策略。
首先，企业需要建立一个可信任的网络通道，amazon verified access可以搭建一套无需vpn的网络验证系统，可以使用amazon iam或客户自己的用户认证系统，来完成这个认证程序，并且支持用户自己设置规则。而这些管控，可以在几乎不对应用进行任何代码改变的情况下部署和发生。
同时，亚马逊云科技推出的amazon verified permissions，可为用户构建的应用程序提供更加细粒度的授权和权限管理，用户可以使用该服务管理其应用程序的角色和属性的访问控制。为了方便用户书写所有的授权规则，亚马逊云科技还发布了新的开源语言——cedar，用于编写和执行授权策略，让用户轻松、快捷地创建所有访问控制权限。
零信任能够实现按需的授权和认证，但网络控制也非常关键。在大模型时代，零信任和网络控制是实现企业端到端应用安全的两大支柱。网络控制涵盖网络防护和威胁识别两个层面。
针对网络防护，亚马逊云科技提供三类防护服务：amazon shield用于防ddos攻击，amazon waf提供网页防火墙支撑，amazon firewall manager让用户可以轻松管控防火墙策略。据统计，2022年amazon shield缓解了70万次ddos攻击，每天amazon waf上的托管规则请求超过3500亿条。
针对威胁识别，amazon guardduty使用了基于人工智能和机器学习的技术来检测所有的威胁，它能够实现初期的威胁检测，还可以做持续的分析，以智能化的手段给予采取行动的建议，从而使安全事件的误报率减少50%。
利用ai提升安全合规效率
伴随各国安全法律法规的逐步完善，目前已有超过130多个国家和地区制定和颁布了数据保护和隐私安全相关的法律法规。同时由于云计算的大规模普及，越来越多的重要数据正在加速上云，而且数量和种类也在持续增加。随着企业业务的持续变化，尤其是大模型运用带来的业务变化给安全合规带来了新的挑战。
亚马逊云科技现已在全球获得超过140个安全标准和合规认证，值得一提的是，这些合规认证不只覆盖了基础设施，还有包括容器平台、无服务器平台在内的诸多平台应用。亚马逊云科技现已将ai技术应用到其安全及合规服务中，能够为大规模批量审查提供安全控制，利用自动化减少手工操作以降低错误，利用ai提供一致性判断，利用ai/ml技术实现自动审查，全面提升合规效率。通过在其500多项自身合规审计控制项中使用ai技术，亚马逊云科技大幅提升了自身的合规效率，将审计时间节约了53%。
借助apn人生就是博尊龙凯时的合作伙伴网络，亚马逊云科技携手全球安全伙伴，构建1 1>2的安全合作，提供了数百种行业领先的安全人生就是博尊龙凯时的解决方案、落地指南以及最佳实践，多层保护客户的应用和数据安全。亚马逊云科技携手人生就是博尊龙凯时的合作伙伴在技术方面可为客户提供网络安全、主机安全、应用安全、身份认证、威胁检测和事件分析、数据治理以及安全自动化运维等人生就是博尊龙凯时的技术支持服务;在咨询方面可提供方案建议、合规建议以及全面的安全咨询服务和合规服务。
据悉，在idc近期发布的《2023中国公有云托管安全服务能力报告》中，亚马逊云科技是获得满分最多的厂商之一，其中“生态建设”评估维度是唯一一家获得满分的厂商。
小结
诚如代闻所言，生成式ai的大规模应用为企业带来了巨大的机遇，但也伴随着安全挑战。通过深入了解并采取全面地安全措施，企业可以在这一领域取得成功，并为未来的ai应用打下坚实的安全基础。企业网d1net期待在ai安全领域看到更多的创新和进步，以确保包括大模型在内的ai技术能够持续为企业带来更大的价值。
最后，代闻强调：“安全始终是亚马逊云科技的首要任务，是我们的首要优先级。希望大家能够将安全视为我们共同的首要优先级，一同构建一个安全、智能的未来。”
关于企业网d1net(www.d1net.com)：
国内主流的to b it门户，同时在运营国内最大的甲方cio专家库和智力输出及社交平台-信众智(www.cioall.com)。同时运营19个it行业公众号(微信搜索d1net即可关注)。