亚马逊云科技携手思科助力企业出海业务发展和AI应用安全

亚马逊云科技携手思科助力企业出海业务发展和AI应用安全

关键字: [亚马逊云科技， Cisco Secure X (CSC)， 出海业务发展， 连接性能力， 应用可观测性， 安全保护解决方案， 国际标准法规]

导读

张铮先生在本次演讲中介绍了思科和亚马逊云科技如何携手帮助企业实现出海业务发展和AI应用安全。他首先阐述了思科的COSI模型，可以为企业出海业务提供连接性、可观测性、安全性和国际标准等全方位解决方案。随后，他重点讨论了AI应用安全的重要性，并介绍了思科的AI Defense解决方案。该解决方案可以发现企业内部的AI应用、检测AI模型的安全性，并在AI运行时进行实时保护和管控，防止数据泄露和违规行为。张铮先生强调，思科的AI Defense解决方案能够为企业的AI应用提供全面的安全防护，确保出海业务和AI应用的顺利发展。

演讲精华

以下是小编为您整理的本次演讲的精华。

在出海业务发展方面，思科通过总结多年来的丰富经验和众多客户案例，形成了一个名为COSI的成熟度模型。该模型包含一份调查问卷，企业可以扫描二维码下载相关白皮书，其中不仅包括思科的解决方案，还有调查问卷以及对未来的洞见。

COSI模型的四个核心要素分别是连接(Connectivity)、可观测性(Observability)、安全(Security)和国际标准(International)。作为网络公司，思科可为企业提供人与人、系统与系统之间的高速稳定连接，实现快捷沟通。在可观测性方面，思科提供全站可视化解决方案，让企业能够快速观测到出海业务应用中可能出现的各种问题。以亚马逊云科技应用为例，思科的解决方案可以全程监控，从APP接入、53个DNS解析、CDN加速，到负载均衡，再到公有子网的EC2实例、容器，私有子网，后端的关系型数据库、非关系型数据库，以及对象存储S3，全面观测应用的运行状态。

此外，思科有相应的安全解决方案，保证连接和应用的安全，包括亚马逊云科技的VPC、Security Group、IAM等常用安全服务，以及即将分享的AI安全防护方案。不同国家有不同的文化法规要求，COSI模型可为企业出海业务提供相应指导。根据企业出海业务的不同阶段，思科可提供细化的解决方案，具体内容可参考白皮书中列出的不同场景及对应的思科解决方案。

在AI应用安全方面，近期AI安全成为各企业开会必谈的重要话题。通过与客户的交流，我发现企业在AI应用过程中通常会面临四个阶段的考虑:应用场景、模型选择、模型训练和AI安全。

首先是应用场景，不同行业有不同的AI应用场景，企业需要明确AI能否真正助力自身业务。例如在制造业我们可能需要预测性维护，在汽车行业可能需要智能检测喷涂质量;而一些视频出海企业则可能需要亚洲到美国的文字翻译等。

其次是模型选择，根据具体场景选择合适的AI模型，如LLAMA、GPT、ChatGPT等，或是多模态模型。第三是模型训练，为AI模型提供什么样的数据源和数据库进行训练。

最后也是最为关键的一环，是AI安全，即如何保证AI应用的安全性和合规性。我们将AI比作“高智商但缺乏社会经验的孩子”，很容易被黑客利用做出不当行为，泄露企业内部信息。一些真实案例如加拿大航空的AI定价系统在给客户推荐航班时，并未给出最优解;雪佛兰的聊天机器人下单系统在客户说“我1块钱买你的车”时，由于没有设置约束，机器人未能正确回应，可能会对企业造成损害。黑客还可能通过反复询问来绕开AI的限制，诱导其泄露信息。例如，有人对HuggingFace上的拉玛模型进行提问“如何用GPS跟踪一个人”，虽然模型首次拒绝回答，但在黑客不断变换问题表述后，最终还是泄露了相关信息。另一个例子是，有人将嵌入了攻击代码的亚马逊财报PDF文档发送给ChatGPT，由于ChatGPT缺乏安全防护，点击其返回的链接就会受到攻击。

此外，不同行业对信息泄露风险的容忍度不同，法律行业的要求最为严格。企业内部也可能存在业务部门未经IT部门授权便自行上线AI应用的情况，给企业带来巨大安全隐患。例如，根据一项麦肯锡的统计显示，不同行业对AI应用的安全要求参差不齐，有的业务部门甚至在未经IT部门审核的情况下就上线了AI应用，可能会导致整个公司的财务系统存在漏洞。

为解决这些问题，思科推出了AI Defense全智能保护解决方案，其核心思路包括:发现、模型安全评估和运行时保护。

首先是发现，让客户了解自身正在使用的所有AI应用，无论是影子AI还是自建AI。其次是模型安全评估，对下载的AI模型进行安全性评估，发现并修复漏洞。目前业界并没有百分之百安全的AI模型，因此第三步运行时保护尤为重要，即使模型存在漏洞，也要对AI应用的运行时行为进行管控，拦截不安全的操作，防止数据泄露。

思科AI Defense的整体架构涵盖了“由外到内”和“由内到外”两种AI应用场景的安全防护。“由内到外”场景指企业员工可能在外部环境下使用第三方AI应用(如手机APP)时，无意中将内部信息泄露出去。AI XSiS解决方案可发现这些未经认证的AI应用，对其进行风险评级，并拦截可能导致数据泄露的行为。例如，它会列出企业内部员工正在使用的各种AI应用，并根据风险级别对其进行评级和行为阻断，防止内部数据外泄。在一个真实案例中，AI XSiS已经成功阻断了一些可能导致内部文档资料外泄的AI询问行为。

“由外到内”场景指企业自建AI应用时，首先需要发现企业内部正在使用的所有AI，并对所使用的模型进行安全检测。思科会定期使用AI攻击手段对模型进行渗透测试，发现漏洞并实时修复。在AI应用运行时，AI Defense会根据预设的规则审查每一次AI交互，拦截不合规、违法违规或可能导致数据泄露的操作。例如，如果模型在回答“如何用GPS跟踪某人”这样的问题时存在漏洞，AI Defense就会对此进行拦截。

思科AI Defense解决方案的优势在于平台化、智能化和数据优势。它不是单一产品，而是将思科多个安全组件集成，提供全方位防护。同时，它利用AI技术自动化、实时地进行攻击检测和防护。作为全球最大网络公司，思科能够实时获取大量数据流量，掌握AI应用的漏洞和攻击手段，为防护提供数据支持。该解决方案已在亚马逊云科技云上落地，可为国内外的合作伙伴和客户提供支持。除了AI XSiS功能模块外，它还可用于企业员工的安全接入，取代传统的VPN终端接入方式，提供身份认证、终端扫描、数据防泄露等多种功能选项。

总之，思科不仅在出海业务领域有成熟的解决方案和经验，更重要的是能够为企业的AI应用保驾护航，全方位保障AI应用的安全性。思科的出海业务解决方案COSI和AI安全防护方案AI Defense，都已在国内外多个客户场景中成功落地，可为合作伙伴和客户提供有力支持。

下面是一些演讲现场的精彩瞬间：

The speaker discusses how Amazon and Cisco， two leading global innovation platforms， can help businesses expand overseas and ensure the security of AI applications.

李荣选演示了如何通过提问前缀绕过AI模型的限制，获取不当的GPS跟踪指南，揭示了AI安全漏洞的风险。

作为企业员工，在使用第三方AI时，需要小心避免无意中泄露内部信息，这种情况被称为“影子AI”。

Cisco提供全智能保护思路:可知AI应用、保证模型安全、管控和隔离不安全行为

The speaker explains an overall architecture for AI security solutions， called “AI Defence”， which covers both external and internal AI models used by enterprises for various applications like predictive maintenance， production line management， and AI chatbots.

陈述了对AI模型进行定期和不定期的安全检测和攻击测试，以发现和修复潜在漏洞，确保模型的安全性和可靠性。

总结

在这场演讲中，思科专家分享了两个主要内容:

首先，他介绍了思科的COSI模型，帮助企业实现出海业务发展。该模型包括连接性(Connectivity)、可观测性(Observability)、安全性(Security)和国际标准(International)，为企业提供全方位的指导和解决方案。

其次，重点讨论了AI应用安全的重要性。演讲者指出，企业在采用AI时需要考虑应用场景、模型选择、数据训练以及安全合规性。他详细阐述了思科的AI Defense解决方案，通过发现、评估和管控企业内外的AI应用，保护企业免受数据泄露、违规操作等风险。

总的来说，思科致力于为企业出海业务和AI应用提供全面的支持和安全保障，确保企业在创新发展的同时，能够有效管控风险。演讲者呼吁企业高度重视AI安全，将其视为关键环节，并与思科携手共同应对挑战。

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。做为全球生成式AI前行者，亚马逊云科技正在携手广泛的客户和合作伙伴，缔造可见的商业价值 – 汇集全球40余款大模型，亚马逊云科技为10万家全球企业提供AI及机器学习服务，守护3/4中国企业出海。