您现在的位置是:首页 > IT基础架构 > 软件与服务 >

开源生成式AI创新让红帽持续增强变革能力

2024-05-16 15:34:13作者:路沙来源:信息主管网

摘要在不久前结束的2024红帽全球峰会上,红帽发布了OpenShift AI的最新进展以及企业Linux AI(RHEL AI)基础模型平台。...

  在人工智能应用和大模型爆发式增长的今天,围绕其中的技术创新基本上都致力于解决企业最为迫切的需求,例如,简化企业的AI应用部署、降低开发成本、提升运营效率等。毕竟,以最快的速度响应市场需求,才是体现自身核心竞争力的关键。

  在不久前结束的2024红帽全球峰会上,红帽发布了OpenShift AI的最新进展以及企业Linux AI(RHEL AI)基础模型平台。其中,OpenShift AI是基于红帽OpenShift而构建的开放式混合人工智能和机器学习平台,能够帮助企业从本地数据中心到公有云再到边缘的复杂环境中,灵活应对不断增长的智能工作负载。而RHEL AI则通过整合开源授权的IBM Granite大型语言模型、引入InstructLab模型对齐工具等,推动开源生成式AI创新的普及。

  红帽总裁兼CEO Matt Hicks表示,在众多的AI平台中,红帽的不同之处在于一如既往的支持灵活性部署。一方面,在本地数据中心、公有云以及边缘等环境中,支持小型开源模型进行混合部署。另一方面,在平台设计上将支持所有主要的GPU提供商,包括NVIDIA、AMD和Intel等,并为它们提供受支持的、企业就绪的模型运行环境。

开源仍是“主旋律”

  作为开源领域的领导者,红帽凭借独特的开源技术和开源社区文化,能够支持企业客户实现组织、架构、文化及技术的全方位数字化转型。可以说,红帽的成功离不开开源文化的支撑。

  综观此次红帽全球峰会,开源理念一直贯穿其中,成为红帽推动生成式AI创新及普及的一把“利器”。例如,基于OpenShift而构建的开放式混合人工智能和机器学习平台红帽OpenShift AI,使红帽能在开放混合云中赋能人工智能及机器学习应用,支持人工智能工作负载的灵活运行和部署;通过使用InstructLab对齐工具、Granite模型和RHEL AI,红帽致力于将自由获取、重复利用、透明开放以及鼓励贡献等开源项目的优势应用于生成式AI领域,从而真正降低进入AI创新的门槛。

  Matt Hicks表示,对齐(LAB)技术是一种利用分类指导合成数据生成和创新的模型对齐方法。通过使用合成数据增强技术能够实现数据的小型化,使得数据块足够小,从而便于协作,并减少对昂贵人工注释和专有模型的依赖。在意识到LAB方法能显著提升模型性能之后,IBM和红帽共同推出了基于LAB方法和开源Granite模型而构建的InstructLab开源社区,使得开发者也会像参与任何其他开源项目一样,将LLM开发权掌握在自己手中。

  “不仅如此,自我颠覆能力以及紧跟技术趋势不断前进的能力也使得红帽更具特色。尽管我们始终坚持在Linux和虚拟化等优势领域,但我们已将这些领域扩展到了容器、镜像空间、人工智能及机器学习等领域。这种适应性以及摆脱固有优势依赖的能力,使得红帽成为了一个有价值的合作伙伴,能够帮助客户实现技术创新和模式变革。”Matt Hicks进一步说道。

混合功能对于充分发挥AI潜力至关重要

  除开源之外,混合AI是此次红帽全球峰会的又一焦点。

  生成式 AI 模型对计算基础设施需求极高,模型的推理成本随着用户数量和使用频率的增加而不断上升,这导致规模化扩展难以持续。混合AI为此提供了解决方案,不仅结合了云端与边缘终端协同处理AI计算负载,还根据场景和需求灵活分配工作,从而优化了用户体验和资源利用效率。

  像红帽开放式混合人工智能和机器学习平台OpenShift AI,不仅可以帮助企业在混合云环境中大规模创建并交付人工智能支持的应用,还支持跨混合云环境的灵活性部署,能够提供基于客户数据增强预先训练或策划的基础模型,并且可以自由地启用多种硬件和软件加速器。

  Matt Hicks表示:“我认为这标志着行业的一次转变。以前,许多企业尝试使用规模较小的模型进行微调和训练,但往往成效不佳。因此,他们转而使用‘全知模型’——这些模型通常在公有云中运行,参数量超过一万亿。尽管这些开箱即用的模型能完成许多任务,但它们的运行和训练成本非常高。当企业受限于云环境时,有很多场景是难以应对的。对此,我们认为,无论是在笔记本电脑、边缘设备、汽车或数据中心中,混合功能对于充分发挥AI的潜力是至关重要的。我们必须改进这些小型模型,使其更好地适应实际任务,这需要在特定用例上完成最后一段训练。仅仅发布一个有3亿、7亿或10亿参数的模型是远远不够的。”

传统IT技术与AI必然走向融合

  Matt Hicks表示,未来,随着通货膨胀导致的利率上升,企业整体的IT支出会受到影响,这可能会对公司构成挑战。通常情况下,企业会通过自动化和软件来提高效率。不过,面对新的形势,IT支出的转变将会引人注目,因为倾向于GPU的投资将会增加,这反映出企业试图通过人工智能和自动化技术的应用,减轻工作负担,提高工作效率。

  在这一过程中,Matt Hicks认为,传统IT技术与人工智能应用程序之间将产生许多交叉链接和整合。从RHEL、OpenShift等传统平台与RHEL AI、OpenShift AI等人工智能驱动型项目之间的对比来看,尽管它们看起来截然不同,但所需的核心技能却是相似的。例如,它们同样拥有内核工程师、用户空间工程师和OpenShift工程师。这种技能之间的无缝整合确保能够有效地满足传统和人工智能应用的需求。

  “实际上,我们谈论RHEL和RHEL AI,以及OpenShift和OpenShift AI,更为重要的原因是能够通过训练模型来定制解决方案。这就要求必须能够与之交互,调用它,向它提问。其中,RHEL用于运行所有在Linux上的应用程序;而RHEL AI则用于运行大型语言模型中AI部分。OpenShift用于管理可以在RHEL上以分布式方式跨集群运行的所有应用程序,而OpenShift AI则以相同的方式管理一系列模型。这些事情将有很多交叉点,因为人工智能并不是孤立存在的。”Matt Hicks解释说。


(本文不涉密)
责任编辑:路沙

站点信息

  • 运营主体:中国信息化周报
  • 商务合作:赵瑞华 010-88559646
  • 微信公众号:扫描二维码,关注我们