英特尔联袂百川智能 酷睿Ultra跑上Baichuan 2

通信世界网消息（CWW）成立于2023年4月10日的百川智能，是一家致力于通用人工智能研发并提供相关服务的中国公司。百川智能推出的Baichuan-7B/13B、Baichuan2-7B/13B四款开源可免费商用大模型，为AI PC的大语言模型应用提供了优秀的本地化解决方案。

虽然都是AI，但前两年的AI、今年的AI与未来的AI实质并不相同。“深度学习”这一概念通过机器人战胜人类棋手为人所熟知，ChatGPT用“学习”到的知识“创造”内容，在这些现象的背后支撑起AI运算的是海量数据与超高计算能力。而在AI应用的另一端，NPU成为智能手机等终端设备优化照片拍摄的利器。

2024年是属于AI PC的元年，大幕在2023年年底拉开。面对一个新时代的到来，PC乃至更大范围的整个生态链上的企业都活跃起来，无论是努力破局的高通、使用ARM架构站稳脚跟的苹果、坚持APU路线的AMD，还是传统Wintel联盟的双雄，都集中在此刻发布或透露其围绕AI概念的PC平台产品。

AI应用的大爆发，早已不能用ML/DL/LLM或者AIGC这些相对具象的原生AI应用方向来涵盖，对应的不同AI应用也需要更多更灵活的AI加速硬件。特别是对PC这样一个通用平台，其通用性被放在价值的首位，x86更是以应用软件众多、向前兼容数十年等优势著称。在现有的应用上增加AI特性，如微软的Copilot渗透到从Windows到Office的诸多应用中，AI加速硬件的匹配与优化，将大大提升AI化的应用程序的使用体验。

在过去的几年，英特尔已经陆续在酷睿平台上标配了GNA音频加速器、IPU影像处理单元、支持DL Boost/DP4a的Iris Xe核显等AI硬件加速器，实现了在特定应用场景中对应的AI加速功能。正式发布的酷睿Ultra（Meteor Lake）更是英特尔PC平台全面转向AI化的开始，表面上更是增加了NPU这一全新的AI加速器；而微软也在此时释放出更多有关Windows 12这一AI化的Windows系统的最新消息，将OS层面对AI加速器的支持与优化，扩展到NPU层面，且包括但不限于Windows ML容器等现有Microsoft AI方案。

英特尔酷睿 Ultra 处理器是首款基于 Intel 4 制程工艺打造的处理器，代表了 40 年来英特尔架构最大的革新。它采用了先进的Foveros 3D 封装技术，结合前沿的知识产权成果与先进的制程工艺，以优化相关模块的性能表现。

百川智能联合创始人、联席总裁洪涛表示，百川智能与英特尔合作，对模型在端侧进行进一步优化，使得百川大模型在酷睿Ultra的平台上良好运行。未来，百川智能将与英特尔持续探索大语言模型在端侧计算和AIGC领域的应用和发展。

酷睿Ultra携更多软硬件特性到来，底层的硬件架构既可以是CPU、GPU、VPU、FPGA，也可以是全新的NPU，甚至是更多的其他针对不同应用的硬件加速器。这些加速器可为包括百川在内的大模型提供直接的硬件推理能力，从而使更多模型的推理工作转移到PC平台，实现高效、安全的本地化运行。此前，英特尔已经宣布其酷睿产品可运行60亿参数的大模型，酷睿Ultra与百川大模型的组合，将进一步提升模型规模和运行效率。

目前，已经有包括剪影、天行者、璇米、爱奇艺、百川在内的众多国产软件厂商，第一时间推出或升级支持酷睿Ultra全新AI特性的产品。作为 AI PC 加速计划的一部分，超过 100 家独立软件供应商（ISV）和 300 余项 AI 加速功能将针对英特尔酷睿 Ultra 处理器进行专属优化，提供丰富的 AI 应用程序和框架。消费者则可在全新的酷睿Ultra产品上市伊始，就体验到AI带来的变化，无论是文字、脚本、图片、音频、视频等内容生成（AIGC）还是抠图、识别、交互等AI应用触手可及，再无软硬件相互等待之虞，尽享AI PC盛宴。