端侧大模型中国与美国差距较小甚至领先-面壁智能CEO李大海对话脉脉林凡

【】9月25日消息，由职场社区和社交平台脉脉联合腾讯新闻小满工作室共同打造的原创直播节目《Fan谈大模型》昨日晚间播放了第一期。期间，脉脉创始人兼CEO林凡对话面壁智能CEO李大海，以《iPhone 16来了，真正的AI手机离我们还有多远？》为主题进行了畅谈。

李大海认为，新一代AI手机、新一代智能汽车都会变成“超级智能体”，基于端侧模型的智能计算，贴身陪伴用户、更懂用户，并帮助用户建立和世界的交互。但目前iPhone 16的AI功能远远没有达到理想状态。

同时李大海透露，手机内存对端侧模型的影响显著。在今年7月，AI产品榜以面壁智能端侧大模型产品MiniCPM为Benchmark 对国际主流品牌手机的大模型性能做了评测，更小参数、更高知识密度的模型在端侧优势尽显，已成为行业共识。就像iPhone 16的内存只有8G，能够运行的模型产品就不会太大，一定程度上会制约Apple Intelligence表现。综合来看，端侧AI对存储、能耗、算力的平衡要求很高，需要同时考虑到手机等硬件在待机、续航、并行任务处理方面的表现。

林凡在谈及端侧大模型给用户交互形式带来的变化时说，端侧大模型的落地，将成为重要的技术原点，交互形式将发生本质的变化。李大海同样认为，未来的AI硬件会像现在的大模型软件一样，分成Copilot（助手）和Agent（智能体）两种类型，比起Copilot，Agent能够自主与环境互动，做出更自主的决策。未来，会出现很多的Agent 类型的硬件。

此外，林凡和李大海均表示，在云端大模型领域，中国相对落后于美国1-2年，但在端侧大模型领域，双方差距不大，在部分技术方面，中国已经处于国际领先水平。

李大海透露，端侧大模型自2024年开始成为AI新趋势，面壁早在今年2月1日就已率先发布了第一代面壁小钢炮MiniCPM旗舰端侧模型，能力胜出Mistral-7b, 谷歌Gemma等国际性能标杆模型，凭借以小博大、高效低成本的特点在国际舞台惊艳亮相。前不久发布的MiniCPM 3.0还带动整个行业，迎来端侧ChatGPT时刻，以4B参数达到了庞然大物GPT3.5性能水平。在高效稀疏化架构创新方面，面壁首创发布2.8倍推理提速的稀疏化端侧模型。中国和美国的端侧大模型技术起步时间相当，在过去的一年里，包括面壁智能在内的很多国内大模型公司在Agent方面亦做了很多探索。如今，在端侧模型的多个领域差别不大，甚至在多模态技术等方面比较领先。

林凡认为，中国的云端模型受到美国对硬件的限制，在算力上有较大的差距。而端侧大模型主要受内存等硬件配置的制约，目前中国的智能终端产品硬件配置相对较高，算力不存在瓶颈。加上中国在端侧大模型的算法方面也有一些前沿的探索，因此，双方在端侧大模型领域没有明显的差距，甚至发生了美国斯坦福大学学生AI团队“抄袭”面壁智能大模型产品的事件。

据了解，《Fan谈大模型》节目自9月24日首播，后续几期将在今年10月陆续上线。