智能时代的既要也要亚马逊云科技如何为

中科白癜风医院 http://www.bdfyy999.com/m/

年,由威尔史密斯主演的电影《机械公敌》幻想了近未来世界下,充满智慧的机器人在突破不伤害人类的规范(也就是机器人三定律)之后,所带来的可怕后果,在当时引起了巨大的轰动和反响。而当我们把目光聚焦到当下,会发现虽然人型机器人的威胁还没有出现,但来自生成式AI的威胁,却已经露出了冰山一角。

诚然,随着第四次工业革命的来临,人工智能正在成为推动人类进入智能时代的决定性因素,特别是生成式AI的出现让越来越多企业都看到了实现商业价值的更多可能,越来越多的组织都在积极利用生成式AI为业务赋能,加速数智转型的进程。不过任何事物都有双面性,生成式AI的爆发也带来了一些十分明显的安全问题,例如部分企业的机密信息被聊天机器人泄露,又或者生成式AI被黑客滥用在网络攻击领域等等,因此,在生成式AI时代,构建有效的安全策略是十分重要且必要的。

作为云计算的开创者和引领者,亚马逊云科技始终将安全视为首要任务,并借助云上的前所未有的规模优势创建了一系列经典的云安全体系。生成式AI的诞生与云计算密切相关,因此,亚马逊云科技在云计算安全领域的优势也顺理成章地延续到了生成式AI领域。在re:Invent大会期间,亚马逊首席安全官SteveSchmid从三个层面阐述了亚马逊云科技在生成式AI时代对应用构建安全方面的观点,主要分为以下三个方面:

对于安全从业者,大语言模型和生成式AI可以加速效率,减轻安全工作者的负担,可以有效帮助安全从业者改善其工作成果,但绝不能把决策权交给AI。

实际上,作为网络安全领域不可忽视的重要组成部分,生成式AI也为安全从业者开辟了很多新的安全防护路径,例如亚马逊云科技推出的漏洞管理服务AmazonInspector就推出了为AmazonLambda函数提供的代码修复功能,可以持续扫描云上工作负载以查找软件和代码漏洞以及意外的网络暴露,并根据亚马逊云科技的安全最佳实践评估自定义专有Lambda代码中的安全问题,如注入漏洞、数据泄露、弱加密或缺失加密等。在发现漏洞后,AmazonInspector还可以提供可操作的安全发现,包括受影响的代码片段和修复建议。作为支持发现的一部分,AmazonInspector提供与漏洞相关的代码补丁,简化了更新易受攻击代码的过程。

此外,亚马逊云科技推出的另一项服务AmazonDetective也为组汇总特性提供了生成式AI能力,该服务可以帮助客户分析、调查并快速确定安全发现或可疑活动的根本原因。在结合了新的生成式AI能力之后,该服务不但可以构建一个可以和客户互动的数据集,结合机器学习、统计分析和图论,帮助调查者理解和分析问题,同时还能在生成问题的叙述时带来更广泛的视角和更多的安全知识,这无疑能加速调查工作流程。

不过也要注意到的是,生成式AI虽然好用,但也不能太过依赖,由于其生成的并非确定性的输出,因此也不能成为唯一识别问题的方式,生成式AI还没有取代安全从业者高级技能的能力,团队也不应该将决策权交给AI。

对于企业,需要从数据源、数据使用和关联过程以及数据生成结果三个层面保障数据安全。

首先在数据源方面,企业需要明确自己的数据来源,SteveSchmidt举了亚马逊云科技设计AmazonBedrock时的例子,“我们必须讨论数据是否可以通过使用该模型而被暴露。如果你正在用你的公司数据训练大型语言模型,模型是如何访问那些数据的?在训练过程中,你能否保持数据在传输和静止时的加密,以及你如何验证这一点正在发生?用于访问该数据的权限是否已被限制为尽可能最少?”

因此,在这样的设计理念下被开发出来的AmazonBedrock,在数据源方面也实现了全面的安全保障,首先,AmazonBedrock可以安全地将数据存储在AmazonS3桶中,使用适当的范围角色来提供模型访问权限,还可以通过AmazonPrivateLink提供对数据的访问,从而让企业控制自己的数据和访问权限。此外,AmazonBedrock还能为客户提供私有定制基础模型,以保证在使用模型的过程中不会产品信息泄漏,从而为客户提供最新模型的好处,并为其敏感信息提供强大的隔离。

其次,在数据使用和关联过程中,企业需要明确的是,训练数据并非唯一需要


转载请注明:http://www.swatery.com/jxgl/12423.html

  • 上一篇文章:
  •   
  • 下一篇文章: 没有了