您的位置:首页 > 互联网

腾讯混元发布开源加速库,生图时间缩短75%

发布时间:2024-06-07 13:15:20  来源:互联网     背景:

6月6日,腾讯发布针对腾讯混元文生图开源大模型(以下简称为混元DiT模型)的加速库,让推理效率大幅提升,生图时间缩短75%。

混元DiT模型的使用门槛也大幅降低。用户可以基于ComfyUI的图形化界面,使用腾讯混元文生图模型能力。同时,混元DiT模型已经部署至Hugging Face Diffusers通用模型库中,用户仅用三行代码即可调用混元DiT模型,无需下载原始代码库。

此前,腾讯宣布旗下的混元文生图大模型全面升级并对外开源,可供企业与个人开发者免费商用。这是业内首 个中文原生的DiT架构文生图开源模型,支持中英文双语输入及理解;采用了与 sora 一致的DiT架构,不仅可支持文生图,也可作为视频等多模态视觉生成的基础。

腾讯混元DiT模型开源之后,受到了众多社区开发者的认可。开源不到一个月,项目Github Star数就超过2100,位于开源社区热门DiT模型前列。

混元DiT Github页面

为了提升开发者使用体验,腾讯混元官方上线了专属的加速库,让推理时间缩短75%,提高大模型运行效率。开发者通过Hugging Face即可下载该推理加速工具。

项目组通过知识蒸馏和TensorRT高性能推理框架,实现了DiT模型的采样步数压缩与高效推理部署。蒸馏主要指降低扩散模型迭代的步数实现加速。模型整体结构和参数量不变,用户在无需任何额外的操作和设备要求下使用蒸馏权重,即可降低50%迭代步数,实现耗时减半。TensorRT推理加速方案通过工程优化,可以进一步降低耗时,并且和模型权重解耦。同时使用两者进行推理部署,可将推理时间缩短75%。

官方还分享了两个降低用户使用门槛的最 新消息:经过与社区的共同努力,用户可以基于ComfyUI的图形化界面使用腾讯混元文生图模型能力。同时,通过与Hugging Face团队合作,混元DiT模型已经部署到Hugging Face官方模型库Diffusers中,并编写了适配该模型库的调用和生成代码,用户可以直接通过该途径调用混元DiT模型,大大简化了用户使用的成本。

ComfyUI是一款文生图领域的WebUI界面设计,它将文生图领域的扩散算法模块化与图形化,提升了生成效率与资源利用率,也大幅降低了开发者的使用门槛。用户可以通过图像化工作流使用混元DiT文生图模型,实现与官方模型一样的效果。

谷歌pixel 6 官方渲染真机图亮相

混元DiT文生图模型的ComfyUI使用界面

此外,围绕ComfyUI的使用生态,还衍生出强大的开源社区。混元DiT对ComfyUI的支持,也能让社区的成员体验基于最 新DiT架构的文生图模型。

作为知名的AI开源社区,Hugging Face的Diffusers是目前调用各种主流文生图大模型的通用库,已经成为当今文生图大模型使用的社区标准。

将混元DiT模型适配进Hugging Face Diffusers,可以大幅提升模型的易用性和用户基础。用户无需将原始代码库下载与部署到自身环境,安装了Diffusers库的开发者,仅需要运行几行代码,即可调用混元DiT模型,配置与调用都十分方便。同时,Hugging Face与腾讯混元团队共同优化算法框架,加快了图片的生成速度。

此举也相当于为所有后续基于混元DiT的使用和开发提供了底层支持,覆盖各种需要调用混元DiT的任何场景,包括上述的ComfyUI方式。同时对开发者而言,之前配置好的基于Diffusers的工作流和插件可以在少量修改的情况下直接用于混元DiT。

腾讯文生图负责人芦清林表示:“腾讯混元文生图模型开源之后得到了众多开发者的支持和反馈,我们十分高兴,也同时在针对开发者的反馈与社区一起完善和优化基于混元DiT的开源生态,让更多开发者能更便利地享受到最 新的研究成果。也欢迎大家跟我们一起共建下一代视觉生成开源生态,推动大模型行业加速发展。”


返回网站首页

本文评论
iPhone 17再见!苹果自研5G再推迟「苹果研发5g」
此前有消息称苹果原计划在2023年iPhone推出自研5G基带芯片,不过新的爆料称,但由于研发问题,该计划已被推迟至2025年才能实现。因此,预计iPhone 15和iPhone 16系列仍将继续使用高...
日期:04-14
传Facebook与九樱天下在华合推电子商务
  8月3日消息,腾讯科技今日获悉,Facebook正与国内公司九樱天下展开洽谈,双方计划在国内合推电子商务新模式。该消息也得了九樱天下内部人士证实,对方称Facebook方与九樱尚在...
日期:07-22
最小的电脑长什么样「世界最小电脑」
随着现代科技的不断进步,硬件设备也在不断地被缩小和微型化。在这样的趋势下,全球各地的科技公司纷纷推出了一系列越来越小的计算机设备,包括目前公认为“”的设备。接下来,本文...
日期:05-29
佳能中国宣布全线涨价!EOS R3 相机上涨 2000 至 38999 元「佳能相机降价规律」
IT之家 2 月 3 日消息,根据佳能 (中国) 有限公司发给经销商的《佳能产品价格调整通知书》,该公司从 2023 年 2 月 1 日起对部分产品进行了价格调整。关于此次涨价的原因,佳能只...
日期:02-03
苹果或在2025年砍掉iPad mini产品线 可折叠iPad取而代之
12月9日消息:据The Elec报道,苹果计划在2025年砍掉屏幕尺寸小于10英寸的 iPad Mini 产品线,并转而推出可折叠 iPad 产品线。2024年,苹果会先推出首款 OLED iPad。特斯拉刹车问...
日期:12-10
抖音珠宝质检可信吗「抖音电商开展专项治理珠宝行业“假冒黄金”等材质商品」
2月9日 消息:日前,抖音电商发布了关于珠宝行业“假冒黄金”等材质商品专项治理公告。公告称, 黄金材质类商品(包括素款黄金及黄金镶嵌材质)属于贵金属,应发布在珠宝文玩行业的“...
日期:02-09
苹果充电口图片大全放大「苹果充电口或将正式“退出舞台”」
据央视新闻报道,当地时间12月30日,欧盟委员会宣布,从2024年起,USB Type-C将成为欧盟电子设备的通用标准,而到2026年,此规定也将适用于笔记本电脑。苹果设备开始采用“C口” 来源:羊...
日期:01-01
海尔卡奥斯股份_全球品牌奥斯卡揭晓!海尔三度蝉联唯一物联网生态品牌
  6月21日,2021年BrandZ最具价值全球品牌榜在法国戛纳揭晓。榜单显示,今年共有腾讯、华为、海尔等18个中国品牌上榜,成为全球上榜品牌第二多的国家,中国力量在全球市场的表现...
日期:06-18
搜索百度ai大脑智能创作就行「百度将发布AI互动式新搜索 具备听、会、看能力」
10月12日 消息:百度世界2023将于10月17日举行,届时将发布大模型重构后的百度产品。在百度世界2023媒体预沟通会上,百度集团副总裁肖阳和王凤阳等分享了百度移动生态在 AI 原生...
日期:10-12
苹果称 95% 的 iCloud 用户开启了双重认证_登陆别人icloud对方显示双重认证
IT之家 8 月 28 日消息,随着今年秋季推出的下一轮软件更新,苹果 iOS 16 和 macOS Ventura 等将集成对 passkey 标准的支持。该标准被描述为独特的数字密钥,旨在通过简化的跨设...
日期:09-15
北京市场监管局党组书记、局长高念东带队赴抖音集团调研
来源:北京市场监管微信公众号   8月18日,市市场监管局党组书记、局长高念东带领办公室、研究室、广告处、网监处、总队六支队、12315投诉举报中心负责同志到本市重点平台企...
日期:08-20
从入围到入网,看曙光XStor1000的制胜法宝
  5G、大数据、人工智能等新兴技术的发展及普及,让中国通信行业面临着新技术、新业务的挑战和海量数据承载压力。数据从生产、采集、存储到全量分析,已成为通信行业新的生...
日期:06-06
涨姿势:小米SU7方向盘最上方的“圆环”是干啥用的_小米方向锁定有什么用
快科技4月22日消息,小米SU7汽车的方向盘设计引起了众多消费者的关注。特别是方向盘12点钟位置的独特圆环设计,其功能引发了一些好奇。这个圆环被称为方向盘回中或回正标志。富...
日期:04-22
美国航天私企萤火虫4次发射3次失败!软件错误所致_美国“萤火虫”航天公司
2023年12月23日,美国私营航天企业萤火虫航天(Firefly Aerospace)旗下的Alpha火箭发射后出现第二级二次点火失败的故障,导致卫星轨道高度不足,很快再入大气层烧毁。根据萤火虫航...
日期:02-24
外媒:iPhone销量继续下滑 特别是中国市场(近两年苹果手机在国内的销量持续下滑)
  对于苹果来说,现在要解决的就是,如何提升iPhone在全球的销量,其实想要做到也不难,把价格定的更亲民一些。   现在,外媒援引自投资公司Goldman Sachs的数据称,苹果2019年年...
日期:04-01
震惊!某运营商集团高层自曝:某些省公司发生投诉暴增现象 该如何解决?
通信大事记在近期某运营商一次内部会议上,集团高层谈及了部分省公司发生了“投诉暴增”现象,声称这其实就是“行业内卷”,十分不利于通信行业发展,那么这到底是怎么回事?据该高管...
日期:10-15
销售新能源汽车 13.51 万辆 赛力斯-2022 年报
【】4月29日消息,日前,赛力斯公布 2022 年报,营业收入为 341.05 亿元,同比增长 104.00%;全年销售整车 26.72 万辆,同比增长 0.24%,其中销售新能源汽车 13.51 万辆,同比增长 225.90%...
日期:10-01
红米 k70「Redmi K70 Pro现身Geekbench:确认有24GB大内存版本」
快科技11月27日消息,随着发布日期的临近,Redmi K70系列手机也多次现身跑分平台Geekbench,近日又有一款Redmi K70 Pro的测试机现身该平台。此次现身的测试机型号为23117RK66C,搭...
日期:11-27
斥资900亿美元!SK海力士将打造全新半导体生产设施:2027年投运_sk海力士涨薪
快科技3月24日消息,据媒体报道,SK海力士计划在韩国京畿道中部的龙仁市投资兴建一座庞大的半导体生产园区,耗资至少120万亿韩元(约合907亿美元)。据悉,新的半导体生产园区包括四座...
日期:03-24
nvidia芯片 美光存储「美光:2024年推出GDDR7显存 2026年升级至36Gbps」
快科技11月10日消息,近期美光公司正式发布了包括GDDR7和HBM4E内存技术在内的显存路线图。图源备注:图片由AI生成,图片授权服务商Midjourney目前美光最高规格的GDDR6X显存最高运...
日期:11-11