红帽给出“三步走”AI部署路径 企业如何快速实现AI应用落地？_ai部署工程师

【】11月4日消息，过去两年，全球资本大举投入AI基础建设，目前AI的基础架构已经基本完善，但许多企业应用仍未落地。不少企业曾尝试用大模型提升效能，但发现大模型不适合生产场景，因为一点小错就可能带来风险。

在2024红帽论坛上，企业级开源解决方案提供商红帽公司展示了其如何用开放混合的AI和开源方法加速企业AI应用。红帽全球副总裁兼大中华区总裁曹衡康表示，用混合开放的模式来开发AI已成为一个必然趋势，红帽在基础架构上采用混合云模式，支持本地数据中心、公有云和边缘计算环境的运行，并支持开源和闭源模型，从而为企业提供灵活选择。

在过去几年，红帽提出了“小模型”概念，即专属模型（faithful purpose），让企业的数据驱动AI模型的生成，确保模型稳定、安全，并符合企业的特定需求。同时还引入“社区版”小模型，通过合成数据大幅减少对真实数据的需求，将数据量降至原来的千分之一。这种方式不仅降低了算力需求，节约了成本，能耗也大幅减少，对环境更加友好。

场景应用是ISV（独立软件开发商）和应用供应商最擅长的领域。由于许多企业和行业都有各自的特点，红帽加速了与本土ISV及方案开发商的合作，这合作涵盖芯片和软件等方面，同时也确保红帽的开源路线在国内得到更多本土化支持。红帽大中华区资深市场总监赵文斌透露，红帽最近与NVIDIA等全球合作伙伴开展了新项目，特别是在加速场景应用落地方面。

值得一提的是，实际应用中，企业在AI预算方面非常谨慎，通常需要看到效果后才会进一步投入。对此，曹衡康表示，红帽的混合云理念鼓励客户在合适的场所部署算力，比如公司内部数据中心、公有云，甚至跨多云环境。去年红帽推出了“Unlock”理念，就是希望避免客户被锁定在特定云上，开源架构为客户提供更多弹性和自由度。

具体来看，红帽提出了“分步实施”的策略，即企业AI应用三步曲。第一步，客户可以在最小资源配置下试用开源模型和工具，比如在笔记本电脑上用CPU试跑，而不需要额外的GPU卡。

如果第一步测试效果满意，客户可以进入第二步，通过云租用算力进行进一步扩展。红帽平台几乎可在任何云上运行，客户可以选择公司数据中心或外部公有云资源，这样在确认模型适合需求后，才进入第三步的大规模部署。

第三步，红帽的架构支持跨云混合部署。例如，客户可以在中国使用阿里云，在美国使用AWS，这种多云方案既灵活又经济。我们的目标是帮助客户实现最佳的投资回报率（ROI），并在每一步提供适配的支持。

红帽大中华区方案架构部总经理王慧慧介绍称，自2019年IBM成为红帽母公司以来，IBM在开源方面的投入愈发积极，在工作方式和平台选择上越来越倾向开源。IBM将其最初的Watson平台（现称Watson X）逐步开源，接下来IBM和红帽将共同致力于维护开源模型的持续迭代。