云是混合的 AI也应该是混合的

　   时至今日，混合云的部署模式早已成为一种共识。不过，进入AI时代，大模型技术也可以在混合环境中进行建模和运行吗?

　　答案是肯定的!红帽全球副总裁兼大中华区总裁曹衡康表示，大模型也应该像混合云的部署方式一样，既可以在“云”上开发，也可以在“数据中心”中建模，最后在边缘环境中运行。为此，我们需要将模型做得更加轻量化，也就是说用几亿或几十亿参数的大模型替代千亿级参数的大模型。

　　然而，从技术的角度如何才能让这种以小投入换大回报的想法变为现实呢?对此，红帽的战略就是从硬件和应用中间打造一个平台或者工具，帮助用户完成模型的创建、调整、对齐以及服务/监控等一系列工作。同时，在此基础上，红帽还可以为客户提供包括从数据采集、数据分析、数据学习到模型建模，再到应用开发及运行的全流程服务。

　　其中，红帽OpenShift AI和RHEL AI是主要支撑技术。OpenShift AI是基于红帽OpenShift构建的开放式混合人工智能和机器学习平台，帮助企业在混合云环境中大规模创建并交付人工智能支持的应用。

　　红帽大中华区解决方案架构部高级总监王慧慧解释说，大家可以将OpenShift AI理解为一个AI的平台级产品。在这个平台上，企业可以选择导入任意一款开源基础大模型，并进行模型的训练、调整、对齐等工作。同时，该平台还支持异构的GPU卡，能够满足企业模型训练中的不同算力需求。“当模型做完了、训练好了、资源也够了。接下来，企业可以把模型部署到OpenShift AI平台上进行应用调用，并最终部署到数据中心、公有云和私有云，以及终端设备等任意环境中。”王慧慧如是说。

　　而RHEL AI旨在简化生成式AI模型的开发和部署，帮助企业更轻松地迈入人工智能时代。王慧慧表示，RHEL AI是一个基础模型平台。企业在该平台之上，通过利用单一服务器或者多台服务器进行基础模型的搭建，以及模型之上的对齐、调优和全生命周期管理等工作。同时，在RHEL AI上做的所有工作还可以无缝推送到OpenShift AI上。从这一点来看，RHEL AI和OpenShift AI有着很多相似性，而不同的地方在于OpenShift AI是分布式环境，RHEL AI是较小的环境。

　　“我们希望客户可以在一个较小的环境中，降低模型构建的成本以及模型训练和调优的工作门槛。不过，把模型变小并不是把模型变笨，而是用较少的资源、较低的门槛，用一些比较简单的数据合成的方式，将AI模型建立和调优的工作量以及实施成本降到最低。”王慧慧如此说道。

　　这充分体现出红帽致力于简化模型构建流程，并且将模型做得更加轻量化的理念。除此之外，开源仍然是红帽在AI时代所坚守的发展方向。正如曹衡康所说，怎么用开源的方式，将AI带入企业是现在红帽主要思考的问题。

　　对此，王慧慧也提到，一直以来，红帽都是以开源的方式探索AI技术及解决方案的。如今，AI模型无论处于调优领域、应用开发领域，还是部署领域，红帽所推出的产品和解决方案都是开源的。

　　其中，InstructLab就是一个开源项目。这是一种用于大规模语言及代码模型的全新AI训练方案。除了开放及模型中立特性之外，InstructLab还将大模型移交至开源开发者社区手中。类似于开源软件鼓励开发人员集体贡献代码、合并变更，借此对软件程序进行快速迭代一样，InstructLab鼓励开发人员集体为各类大模型贡献新的技能和知识，从而推动模型快速迭代。

　　“它的工作是可以利用本身的工具让整个建模方式更加简单化。过去企业搭建一个模型光是参数就可能达到‘万兆’，利用InstructLab之后，可能用大概十亿、二十亿的参数就可以进行建模。”王慧慧解释道。

　　最后，王慧慧提到，通过执行“三步走”策略，可以为客户提供一个端到端的AI平台和AI建立模型路径。第一步是在资源受限的桌面环境下，采用小数据集进行实验性训练(qlora)，InstructLab未来会集成到Podman Desktop里;第二步是通过完整的合成数据生成技术，采用“教师”模型和“学生”模型的训练方法，进行生产级模型训练，并提供基本操作脚本化的工具支持;第三步是在更大的分布式集群的环境下，与RHEL AI一样进入了生产级的模型训练。同时，充分利用Kubernetes扩展、自动化并实现MLOps的全部功能。

　　从这三步走策略中，可以清晰看出红帽对于OpenShift AI、RHEL AI以及InstructLab等产品和项目的综合应用。当然，这也是红帽推出这些新产品和新项目的终极意义所在，就是简化企业模型建模的流程，降低实施成本和技术门槛。

(本文不涉密)
责任编辑：路沙

转载：感谢您对网站平台的认可，以及对我们原创作品以及文章的青睐，非常欢迎各位朋友分享到个人站长或者朋友圈，但转载请说明文章出处。