您的位置:首页 > 互联网

ai软件需要独立显卡吗「无需AI PC也能跑AI应用?背后的原因你知道吗」

发布时间:2024-04-06 12:16:25  来源:互联网     背景:

最近关注PC市场的朋友想必会注意到,“AI PC”已经成为了诸多厂商最新的宣传口号。

在更进一步的产品介绍里,这些厂商往往会宣称他们的新品使用了全新内置NPU(神经网络单元)的处理器,因此它可以运行老旧设备所不能支持的各种AI应用,提供从语音助手到用户感知、从生成式绘图到文本辅助编辑在内的众多新功能。

乍看之下这似乎有些诱人,而且按照手机行业的经验,最新的“生成式AI”功能往往仅限于最近的两代硬件平台可以适配。所以对于更早之前、被认为“AI算力不足”的机型,它们即便更新到了最新的系统或软件版本,往往也不能看到相关的AI功能和选项。

那么这是否意味着,如今各种各样的AI功能也都必须要使用这些内置NPU新款处理器的新电脑才能用到呢?毫无疑问,这是一个很微妙的问题。因为从最近的一些行业动向来看,答案似乎是否定的。

赣锋锂业与兆新股份

  • 多款AI PC软件上新,但都不需要新硬件就能使用

使用ai必须要有网络吗

比如在2024年2月23日,NVIDIA推出了最新的551.61版显卡驱动、以及与之搭配的“NVIDIA App”。在这个新的控制界面里,NVIDIA新增了多个基于显卡AI算力的游戏画面优化功能。理论上只要使用的是最近几代的RTX显卡就都可以启用,然后让AI来自动处理游戏画面,使得它看起来色彩更生动、纹理更清晰。

又比如说,差不多就在同一天,微软方面也更新了旗下“照片”软件的最新版本。其最大的改变就是新增了“AI擦除”功能。据称,这一功能类似于现在很多新款旗舰手机上的AI照片路人消除,也就是可以擦除照片背景上的小范围异物,同时使用AI算法来自动补全背景。

ai软件需要网络才能用吗

华为magic换屏多少钱

但问题在于,微软的新版“照片”软件完全没有限定电脑的硬件。换句话说,它所使用的这套“生成式绘图AI”,哪怕是使用最普通的x86CPU也能运行,并不需要用户非得换用“AI处理器”或“AI PC”。

为什么会这样?其实这背后涉及到了两个问题,一是AI计算的本质,二是PC相比智能手机在基本思路上的区别。

  • AI计算并不神秘,也不绝对非要NPU才行

首先,我们来说说AI计算的性质。大家都知道,如今PC有所谓的“位数”概念,比如8位、16位、32位和64位,而这个位数通常指的是每一次计算所使用的数据字长。字长越长就意味着计算的结果越精确,但与此同时也会占据更多的计算资源。

对于主流的通用CPU来说,它们的内部结构通常是为32位和64位计算而设计。同时为了应对一些特别高性能的计算任务(比如多媒体编解码、游戏渲染),如今CPU也会具备额外的256位、甚至512位浮点单元和指令集,以加速这部分任务的计算速度。

但是AI推理(注意我们的用词,它不是“计算”)并非如此,对于AI处理的场景来说,它其实更像是在做无数次的猜测,因此计算的次数要远比计算精度更重要。这就是为什么越是先进的AI处理单元(也就是NPU),它们往往会支持越低精度、短字长(比如8bit、4bit)的计算格式。

这样一来,问题就出现了。假如现在有两颗处理器,一颗是32位的CPU、每秒可以完成2次运算,而另一颗是4位的NPU、每秒能完成10次运算。那么从总体的数据吞吐量来说,肯定是CPU更高(32*2>4*10),但因为CPU不能将自己的运行模式变成4位字长为最小单位进行运算,所以如果强行让它去进行AI推理,那么它实际上每秒还是只能算2次,而不是16次。这时候,CPU的“AI性能”自然就比NPU来得慢了。

没错,虽然这个例子举得相当粗浅,但它的关键在于,传统CPU并不是“彻底不能用来算AI”,它顶多只是速度低一点罢了。况且很多稍近代一点的CPU(比如10代酷睿-X,11代到14代移动和桌面酷睿),实际上也适配了专用于强化AI计算效率的指令集,也不会像这个例子里效率那么低。

更不要说就像我们前面所提到NVIDIA的情况那样,PC上的AI功能有时候也未必就适配了最新型的NPU硬件,它们反而可能是针对部分显卡优化得更好。毕竟在PC领域,显卡可是早就支持AI加速运算、相当于早就有内置“NPU”,而且是性能数十倍、数百倍于智能手机里的NPU了。

因此这实际上也就解释了,为什么没有NPU的电脑一样可以运行AI程序的原因。

  • AI PC的现有优势是能效,但性能还得看未来

可能有的朋友看到这里就会问,那是不是对于如今配备有NPU的“AI PC”来说,它们运行AI程序的速度还是会更快一些呢?

其实也不一定。这是因为NPU固然在架构上是专为AI推理而设计、计算效率会更高,但问题在于,“效率高”并不完全等于“速度快”。实际上对于现在的消费级NPU来说,它们更大的意义其实是在于降低设备进行AI推理、感知时的功耗,而并非追求更高的绝对AI性能。

这很好理解,毕竟消费级NPU的设计远本就最早源自智能手机这类、功耗敏感型的终端形态,而且目前的AI PC和PC的AI处理器,绝大多数还都是为笔记本电脑,甚至可以说是为轻薄本而生。

打个比方,就好比现在有一段AI代码,如果我们用台式PC里的“线程撕裂者”192核CPU、或者是RTX4090显卡去运行,那么它很有可能会比智能手机、比轻薄本里的NPU算得更快。但前者计算过程中的设备功耗会高达好几百、甚至上千W(瓦),后者则可能会只消耗10W、甚至不到1W就能完成运算。

很显然,对于前一种设备来说,是没法让这种AI代码一直处于运行状态的,但后者就可以做到。

所以在某种程度上,这也就引出了未来“AI PC”可能的两种发展方向。要么就是将来AI PC会继续强调能效比,主打AI计算的效率。在这种情况下,需要随时启动、感知型的AI功能就会成为主要的体验差异。

要么,如果真的可以迎来“高性能NPU”的进化,让NPU在AI推理速度上彻底压倒顶级CPU和GPU。那么诸如AI绘图甚至是视频生成这样的高算力AI使用场景,才有可能真正在端侧落地,并且深度地改变我们使用PC进行学习、工作的方式。


返回网站首页

本文评论
字节跳动在加拿大、澳大利亚筹建研发中心_字节跳动在纽约上市
1月18日消息,近日,据接近字节跳动的人士透露,该公司正在加拿大、澳大利亚等地筹建研发中心。目前,部分研发中心已试运营半年左右,未来将支持TikTok、CapCut、Lemon8等多个海外业...
日期:01-18
最“丑”绿色车牌或在2年内取消 网友:以后电车要靠自己了「绿色车牌有什么优惠」
乘联会秘书长崔东树在今年2月底向媒体透露,乘联会已经向国家有关部门提出了合并蓝牌、绿牌的建议,并且“预计未来两年就将成为现实”。虽然提议并未最终落实,但仍有人担心取消...
日期:03-28
微信支付与中石化打造“不下车、免排队”加油方案,已接入全国8省
  大家一起来“加油”!微信支付最新数据显示,加油行业的微信支付交易额超去年12月,成为恢复最快的行业。目前,微信支付与中石化打造的“不下车、免排队”加油方案已落地全国...
日期:07-14
疯狂的珍珠:一月一涨价,养殖户卖断货,珠商月入500万_珍珠暴利
声明:本文来自于微信公众号 Tech星球(ID:tech618),作者:翟元元,授权转载发布。珍珠涨疯了,一颗上等的15mm的澳白珍珠,约等于55克黄金(截至发稿,黄金实时价格每克467元),即2.6万元左右...
日期:11-27
快手短视频微剧「快手整治微短剧类小程序内容规范 下架不合规微短剧900余部」
6月12日 消息:近日,快手黑板报发布快手关于微短剧类小程序内容规范治理公告,平台共排查下架不合规微短剧900余部,4万多集。联想x13 gen2公告称,为规范小程序网络视听作品,确保视...
日期:06-12
iPhone15机型基本敲定 入门款机型有望搭载4800万主摄「ios15上手体验」
iPhone15 要到 9 月才会发布,但是现在已经开始引起人们的兴趣了。苹果没有正式公布其下一代旗舰手机的存在,但是有很多可信度高的iPhone15传闻让我们可以期待一下。目前已知的...
日期:05-15
专家:从长远来看,电动汽车可能比燃油车性价比省钱「你觉得电动汽车比燃油车有前途吗?」
4月24日消息,在政府政策、技术进步和环境问题等因素刺激下电动汽车的销售将会变得更火爆。根据芝加哥大学和美联社最近联合展开的民意调查显示,到目前为止,41%的美国人至少在某...
日期:04-24
价值榜|AI大模型上游企业创新能力榜:海康、浪潮暂时领跑,三大产业表现强势
编者按:价值公司100系列价值榜单,是财经从媒体视角出发,联合专业研究机构,发布融合价值判断和数据判断的综合榜单,致力于挖掘中国好公司、发现企业独特价值。“A股上市公司创新能...
日期:09-21
12万就有自动上电 埃安AION Y Younger上市:续航430km_埃安aion s
3月7日,埃安AION Y Younger正式上市,售价11.98万元,支持2年0息 超低首付。AION Y Younger是AION Y PLUS车系的新增车型,进一步拉低了该车系的价格门槛。iphonex停产原因AION Y Y...
日期:03-08
瑞幸咖啡可以要冰块吗「瑞幸咖啡被吐槽去冰后剩半杯引热议 官方回应:你喝饮品加冰吗」
3月14日晚间,瑞幸咖啡被吐槽去冰后剩半杯登上微博热搜。对此,财经网产经以消费者身份在瑞幸咖啡抖音直播间提问,加冰的咖啡是否比常温容量少,主播回复表示,容量不会少,只是口感口...
日期:03-15
博彦科技重拳出击:人工智能计算平台率先出炉_博彦科技创始人
(原标题:博彦科技重拳出击:人工智能计算平台率先出炉) ios14.3公测版 随着人工智能技术的发展,对人工智能落地的工程技术也提出了...
日期:12-11
小米4手机「小米4手机有几种颜色」
近年来随着手机市场的竞争日益尖锐,小米作为中国本土品牌在国内手机市场上发展迅猛,拥有众多忠实粉丝。其中,作为小米公司推出的旗舰手机,一经推出就备受市场的欢迎。拥有一枚高...
日期:05-29
自主创新成为云服务能力的刚需:新锐云计算企业ZStack的自主创新实践
   自主创新,网络安全新抓手   在新兴信息技术领域,由云计算于所处的基础性地位,而被称为“看不见的冰山”,正以超常规的速度发展。《云计算发展白皮书(2019年)》报告显示...
日期:03-18
浙江零跑科技股份有限公司通过港交所上市聆讯_网易订阅「浙江零跑汽车科技有限公司」
据港交所文件,浙江零跑科技股份有限公司通过港交所上市聆讯。【零跑汽车赴港IPO获证监会核准 2025年计划推8款新车】8月19日,证监会核准浙江零跑科技股份有限公司(即零跑汽车)发...
日期:09-06
谷歌地图宣布更新:新增一系列 AI 功能,支持“沉浸式视图”_谷歌地图立体场景
IT之家 10 月 26 日消息,谷歌宣布谷歌地图 App 将迎来一系列功能更新,包括新的人工智能(AI)功能、导航改进等等。在一篇博客文章中,该公司强调了未来几个月将推出的地图新功能和...
日期:10-27
百亿tokens免费额度,清华系明星AI公司的羊毛薅起来
声明:本文来自于微信公众号 量子位(ID:QbitAI),作者:允中,授权转载发布。百亿token补贴,4月起免费!这次的羊毛来自清华系AI公司无问芯穹,企业与个人皆可薅~这家公司成立于2023年5月...
日期:04-01
假期最后一天!国庆节后需连上7天班:专家称调休不如适当增加延长假期
10月6日消息,今天是假期最后一天,大家都玩的怎么样?万兴喵影和喵影工厂是一个软件吗按照规定,2023年中秋节、国庆节放假安排:2023年9月29日(星期五)至10月6日(星期五)放假调休,共8天...
日期:10-06
魅族20t「魅族20上架:预约量超10万单」
今天魅族官宣,魅族20系列手机已经开始新机的预约了,预约用户可以享受7项首发权益,而就在刚刚魅族宣布,仅7小时魅族20的超前预订的订单数就突破了10万。用户即可享受包括新机36个...
日期:02-22
英特尔任命 Bruce H. Andrews 为公司副总裁、首席政府事务官
  8 月 28 日消息 昨日,英特尔公司宣布,任命 Bruce H. Andrews 担任公司副总裁、首席政府事务官,自 9 月 7 日起生效。   了解到,英特尔表示,Andrews 将领导公司的全球政府...
日期:01-03
5G手机普及者 Redmi Note 11R上架:联发科天玑700加持_Redmi Note 10 Pro 5G 天玑
今天上午,Redmi宣布Note 11R将于9月30日正式发售,价格未公布。Redmi表示,Note 11R为普及5G手机而来,把5G手机普及到每个人,我们坚定不移。据悉,Redmi Note 11R对应的国际版机型是...
日期:09-30