英特尔和 BCG 携手通过 Habana Gaudi 加速器推动生成式人工智能

作为新战略合作伙伴关系的一部分，英特尔和 BCG 联手通过 Habana Labs Gaudi 加速器推动生成人工智能。

英特尔宣布与 BCG 建立战略合作伙伴关系，通过其 Habana Gaudi 加速器进入生成式人工智能领域

总的来说，生成式人工智能和人工智能是当今的热门话题。NVIDIA 目前凭借其 AI GPU 引领这一领域，AMD 紧随其后。现在，英特尔还决定与 BCG 建立全新的合作伙伴关系，从而进入该领域，后者希望提供企业级和安全的生成 AI。

为此，BCG 将利用英特尔的硬件生态系统，其中包括至强可扩展处理器和人工智能优化的 Habana Gaudi 加速器以及一系列混合云规模软件。

“生成式 AI 是一个新兴的动态空间，这意味着组织必须选择合适的技术来推动他们的 GenAI 之旅，”BCG 董事总经理兼合伙人 Suchi Srinivasan 说。“该技术从一开始就必须是企业级的，并考虑到隐私、安全、易用性和可扩展性。我们与英特尔的合作将使企业能够通过定制的 GenAI 解决方案开发竞争优势，同时深思熟虑地引导从这些变革性解决方案中获得最大价值所需的人员、流程和政策变化。

生成 AI 需要一种真正民主化的方法，以实现更安全和可扩展的选择，以便企业可以安全地从该技术中受益，”英特尔数据中心和 AI 集团执行副总裁兼总经理 Sandra Rivera 说。“我们与 BCG 的合作使我们能够帮助客户构建生成式 AI 应用程序，这些应用程序需要在他们选择的安全范围内完全优化整个堆栈的技术。”

通过英特尔/ BCG

英特尔目前正在提供其基于 7nm 工艺节点的第二代 Habana Gaudi 加速器，提供 24 个 TPC 用于以 FP8 格式运行的媒体解码和处理(相对于 8 个 TPC)。内存配置包括 96 GB HBM2e 内存，提供 2.45 TB/s 带宽和额外的 48 MB SRAM。网络通过 24 个 100GbE 交换机提供。如此大的性能飞跃也意味着 TDP 必须大幅提升，Gaudi2 的 TDP 为 600W(之前为 350W)。据说这些芯片在性能/成本方面与 NVIDIA 的 A100 AI GPU 具有竞争力。