边缘侧部署AI为何难以成功？英特尔“软硬兼施”破解三大难题_边缘ai开发套件

通信世界网消息（CWW）如今，全球数字经济的浪潮奔涌向前。边缘与智能将继续创造更大的市场机会。据统计，在全球市场，预计到2030年边缘市场将达到4450亿美元。这主要是由企业需求推动的，因为企业需要在边缘提高效率、降低成本、增强安全、优化体验等。不过，在经验当中看到这些边缘的人工智能部署超过一半都是失败的，这可能与基础设施、数据和管理等要素相关，亟需行业提供更完善的智能解决方案。

对此，英特尔提出了包括无所不在的计算、无处不在的连接、从云到边缘的基础设施、人工智能、传感和感知在内的“五大超级技术力量”，认为这些力量将推动数字化转型和社会进步。近日，在2023英特尔网络与边缘产业高层论坛上，英特尔市场营销集团副总裁兼中国区总经理王稚聪还强调了两个中国特色的新时代特征，即绿色和大语言模型，英特尔与中国在绿色方面的合作非常快速，涉及到绿色产业、储能、新能源车、数据中心转型、边缘计算的绿色控制等领域，大语言模型在中国的发展非常有前景，可以把大模型转化到各行各业当中驱动新的生产力的提高。

随着大模型的普及，边缘已经成为人工智能最大的部署所在，涵盖了智能教育、视频会议、制造业、智能城市、医疗等多个领域。预计未来人工智能在边缘端的部署将会比在数据库当中高3倍。但是就目前发展情况来看，人工智能在边缘部署过程中遇到不小的的挑战和困难。

不过，在经验当中看到这些边缘的人工智能部署超过一半都是失败的。英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti指出，主要是有三个原因：基础设施、数据和管理。他解释说，很多工厂上面的设备都是比较陈旧的，如何把人工智能的大型模型部署到这些陈旧的设备上是一个技术难题；对于每一个客户来说，数据都是很独特的，如何抓取这些孤立的数据，并利用这些数据进行训练和推理也是一个数据难题；如何把人工智能的能力加入到数千台设备当中，并进行更新迭代也是一个管理难题。为了解决这些难题，英特尔为合作伙伴提供的软件和硬件解决方案。英特尔已经在全世界完成了超过84000次成功的部署，包括在制造、医疗、零售等领域，英特尔和合作伙伴进行了紧密合作。

成功的AI边缘部署需要一些什么样的要素呢？Sachin Katti认为，为了实现成功的AI边缘部署，需要考虑软件栈的各个层面，包括硅芯片层、基础设施层、AI和应用层、垂直解决方案层。不同的产业有不同的设备和要求，比如功耗、空间、环境等，所以要提供最广泛的产品来满足这些要求。从硅芯片层到应用层，英特尔可以提供非常强大的算力，还利用3D封装技术、GPU加速器、开放标准的AI堆栈等技术，来提升AI平台的效率和灵活性。英特尔还提供了一系列可供选择的能力，可以加速GPU，并且让GPU更加灵活，这样可以进一步提升AI平台的性能。英特尔还可以更好地处理媒体和云游戏等应用，从而实现性能的提升。

现在我们看到整个行业正在经历着令人难以置信的改革，数字化转型无处不在，而边缘云会加速这个过程，带来巨大的机会。英特尔网络与边缘云解决方案事业部总经理Dan Rodrioue，我们作为一个生态系统，必须要齐心协力，并且快速地抓住这个机会，这样才能真正推动行业转型。Dan Rodrioue分别举了制造业、医疗、教育、零售、银行和智能城市等领域的应用场景和案例，说明了边缘计算和人工智能是如何帮助企业提高效率、降低成本、增强安全、优化体验等。

在制造业，英特尔在中国成都的工厂是英特尔生产CPU、GPU等产品的重要基地。在这里，英特尔使用了OpenVINO的一项技术——晶圆表面缺陷检测系统，结合了第12代英特尔CORE平台和ARC，构建了一个自动化的机器视觉系统。这个系统可以实时检测晶圆表面的划痕、微小的凹痕甚至微裂痕，从而提高了产量，并且保证了产品的高质量。这对于英特尔来说是非常重要的，因为这意味着更多的客户会购买他们的产品。

在医疗行业，英特尔与SonoScape合作，SonoScape是一家专业从事超声诊断设备研发、生产和销售的公司，使用了带有深度学习增强和集成GPU的酷睿处理器以及OpenAI产品，通过优化提升了20倍的性能。

在教育行业，英特尔帮助ViewSonic参与白板的开发，ViewSonic是一家专业从事显示器、投影仪、触控屏等产品的公司，使用了英特尔的处理器、OpenVINO、SDK和边缘AI解决方案，构建了一个智能扩展的解决方案，可以提升学生参与度和学习体验。

在零售行业，英特尔与TOUS JOURS合作，TOUS JOURS是一个亚洲咖啡连锁品牌。他们使用了英特尔的处理器、OpenVINO、SDK和边缘AI解决方案，构建了一个智能扩展的解决方案，智能收银系统，可以帮助消费者有更好的购物体验。

在银行业，英特尔与升腾合作，升腾是一家专业从事虚拟桌面基础设施（VDI）解决方案的公司，使用了英特尔第11代酷睿处理器和Optane内存，构建了一个VDI解决方案，这是一个台式终端管理系统，可以帮助金融机构管理数万台终端设备。这个系统可以保证即使网络出现故障，终端设备仍然可以正常工作，有助于业务的连续性，在中国银行业广泛部署了解决方案。

“数字化下半场不同于数字化上半场，数字化下半场它不仅关注数据的收集和存储，还关注数据的分析和应用，不仅关注技术的提供和使用，还关注技术的赋能和创造，不仅关注效率的提升和成本的降低，还关注体验的优化和价值的增加。”英特尔中国区物联网及渠道数据中心事业部总经理郭威介绍道，英特尔作为全球领先的芯片制造商，一直在数字化下半场中发挥着重要的作用。

英特尔不仅提供了高性能、高效率、高安全的硬件产品，包括CPU、GPU、FPGA等，还提供了优质、易用、开放的软件产品，如OpenVINO、DPDK等。通过这些硬件软件产品，英特尔为客户提供了强大的计算能力、存储能力和通信能力，让客户可以更好地处理和利用数据。未来，英特尔将继续按照这条路径走下去，在数字化下半场中发挥着引领者和赋能者的角色，将继续携手众多生态伙伴，在全球数字化变革的浪潮中，为各行各业带来更多的价值和机会。