思科和英伟达携手打造面向生成式AI的基础设施解决方案
浏览量:695 上传更新:2024-07-09
![思科和英伟达携手打造面向生成式AI的基础设施解决方案 思科和英伟达携手打造面向生成式AI的基础设施解决方案]()

◎ 新解决方案将结合思科和 NVIDIA 的创新技术,简化生成式 AI 应用的部署,为整个 AI 基础设施技术栈提供 IT 可视性和分析功能。
◎ 借助 Cisco Nexus HyperFabric AI 集群,企业客户可以轻松构建基础设施以运行生成式 AI 模型和推理应用,而无需深厚的 IT 知识和技能。
◎ 独有的云管理功能 可帮助客户轻松部署、管理和监控数据中心、托管设施和边缘站点。
安全和网络领域的领导者思科与 NVIDIA 携手推出突破性的数据中心 AI 集群解决方案,彻底改变客户构建、管理和优化基础设施和软件的方式。
△ 2024 年 Cisco 现场直播 (Cisco Live 2024)
为了实现简化网络的思科网络云愿景,思科正在向市场推出全新的企业就绪型端到端基础设施解决方案,以扩展生成式 AI 工作负载。
思科 Nexus HyperFabric AI 集群解决方案将思科 AI 原生网络与 NVIDIA 加速计算和 AI 软件以及强大的 VAST 数据存储相结合。它旨在使客户能够专注于 AI 驱动的创新和新的收入机会,而不是 IT 管理。
△ 思科 Nexus HyperFabric AI 集群
根据思科最近发布的未来两年全球网络趋势报告 ,60% 的 IT 领导者和专业人员预计将在所有领域部署支持 AI 的预测性网络自动化,以便更好地管理网络运营。此外,75% 的企业计划将可通过单个控制台提供端到端可视性的工具部署到不同的网络域,包括园区和分支机构、WAN、数据中心、互联网、公共云和工业网络。
生成式 AI 需要专用的基础设施和软件,使企业能够安全地将其数据转化为业务转型的动力,NVIDIA 和思科正在提供企业就绪型 AI 平台和控制平面,以简化生成 AI 工作负载所需的加速计算、网络和软件的部署。
——Kevin Deierling
NVIDIA 网络高级副总裁
在 Cisco Live 上,该公司展示了其如何致力于帮助客户快速部署 AI 基础设施。思科还为客户提供合适的工具,帮助他们构建直观的 AI 原生网络,预测故障,快速诊断和修复问题。
△ 思科展示如何致力于帮助客户快速部署 AI 基础设施
思科 Nexus HyperFabric AI 集群的工作原理
本地部署解决方案可集中实现设计、部署、监控以及提供对 AI Pod 和数据中心工作负载的保障。它指导用户从设计到经过验证的部署,再到企业就绪型 AI 基础设施的监控和网络状态感知。借助其云管理功能,客户可以跨数据中心、托管设施和边缘站点轻松部署和管理大规模交换矩阵。
Cisco Nexus HyperFabric AI 集群解决方案在统一的计算和网络交换矩阵中提供自动化的云管理操作,该架构结合了基于Cisco Silicon One的思科以太网交换专业技术,并与 NVIDIA 的加速计算和 NVIDIA AI Enterprise 软件以及 VAST 的数据存储平台集成。这将包括:
◎ 思科云管理功能,可简化工作流程所有阶段的 IT 操作。
◎ 适用于Spine和Leaf的 Cisco Nexus 6000 系列交换机,可提供 400G 和 800G 以太网交换矩阵性能。
◎ 思科QSFP-DD 光模块系列,为客户提供多种选择并提供超高密度。
◎ NVIDIA AI Enterprise软件,用于简化生产级生成式 AI 工作负载的开发和部署
◎ NVIDIA NIM 推理微服务,可加速基础模型的部署,同时确保数据安全,适用于 NVIDIA AI Enterprise
◎NVIDIA Tensor Core GPU,从 NVIDIA H200 NVL 开始,经过全新设计,通过改变游戏规则的性能和内存功能增强生成式 AI 工作负载。
◎ NVIDIA BlueField-3 数据处理单元 DPU 处理器和 BlueField-3 SuperNIC,用于加速 AI 计算网络、数据访问和安全工作负载。
◎ 基于 NVIDIA MGX(一种模块化的灵活服务器架构)构建的 AI 企业参考设计。
◎ VAST 数据平台,提供专为 AI 构建的统一存储、数据库和数据驱动的功能引擎。
部分客户可能会在 2024 年第 4 季度提前试用此 AI 解决方案,预计此后不久将全面推出。
Cisco Learning and Certifications 推出了一项新的 CCDE AI 基础设施认证,目前可在 Cisco U 上进行相关培训。
它为专家级网络工程师和设计网络工程师提供专业知识,将 AI 工作负载业务要求转化为基础设施设计的技术和可持续最佳实践。思科还启动了思科黑带课程的第一阶段 AI 合作伙伴专业化认证课程。
这些学习旅程可以帮助思科合作伙伴掌握所需的产品知识,帮助他们建立 AI 实践并加速客户部署。
生成式 AI 模型需要以闪电般的速度访问大量数据,而这一壮举只有通过空前的计算能力和高性能网络基础设施才能实现。通过全新的思科 Nexus HyperFabric AI 集群解决方案,我们正在帮助企业使用 NVIDIA 加速计算、AI 软件、思科网络以及 VAST 数据平台构建 AI 数据中心,提供计算、网络、存储和数据的端到端可视性管理,以便组织可以无缝构建和扩展其 AI 运营。
——雷南·哈拉克 (RenenHallak)
VAST Data 首席执行官兼联合创办人
在我们的客户群中,以太网的规模最为广泛,与思科 NVIDIA 的合作伙伴关系以及由此产生的产品将加速我们为客户提供 AI 解决方案的能力。思科和 NVIDIA 已经在 WWT 的 AI 试验场实验室中发挥了重要作用,我们帮助客户选择和实施 AI 架构,以便他们能够更快地将数据转化为洞察力和行动。
—— WWT
云、基础设施
和 AI 解决方案副总裁
文章来源:思科联天下