字节跳动开源GAN压缩算法(算力消耗减少至1/46)
分类：新闻资讯
时间：2023-11-21 22:02:51
8 月 27 日消息，字节跳动近期开源了一项代号为 OMGD 的压缩技术。这是字节自研的 GAN（天生对抗网络）压缩算法，在保证天生效果不变的条件下，算力消耗最低可以减少到原来的 1/46，相比之前业界的最佳压缩效果提升一倍多。据悉，这项技术的论文已进选国际计算机视觉会议 ICCV 2021。
据悉， GAN 是人工智能领域重要的深度学习模型 ，在图像天生、音乐天生和视频天生等方面应用广泛，还可以进步图像质量，实现图像风格化、图像着色等任务。漫画殊效等人们常用的短视频道具，就是通过 GAN 实现的。
由于 GAN 对计算资源和存储空间的需求巨大，模型难以直接部署得手机、Pad 等移动设备上，业界一直在努力改进 GAN 的压缩方法。2020 年， 麻省理工学院、Adobe 和上海交通大学的研究者们提出一种 GAN 压缩算法 ，将算力消耗成功减少到 1/21。此次字节跳动提出的 OMGD 方法则进一步提升了压缩能力。
OMGD（Online Multi-Granularity Distillation）意为“在线多粒度蒸馏”。据字节跳动技术团队的论文显示，该算法能灵活地在练习过程中优化并压缩 GAN 模型，从而实现更好的图像效果和更少的计算本钱。
测试数据表明，OMGD 压缩算法对 Pix2Pix 和 CycleGAN 这两种常用的 GAN 解决方案效果明显。Pix2Pix 和 CycleGAN 主要应用于图像到图像的“翻译”，比如将照片转换为绘画，对黑白图片着色等。OMGD 压缩算法可使其算力消耗分别减少到原来的 1/40 和 1/46。
目前，OMGD 压缩算法已在抖音等产品中落地 ，为用户提供更丰富的视频创作能力。相关技术代码也已发布在开源社区，以帮助从业者提升 GAN 的创新和应用效率。迄今，字节跳动已开源了机器学习平台 Klever、联邦学习平台 Fedlearner、高性能分布式练习框架 BytePS 、LightSeq 推理和练习引擎等重磅项目。
节能环保是字节跳动一个重要的技术研究方向。在不久前的自然语言处理领域国际顶会 ACL 2021 上，字节跳动的词表学习方案获得年度唯一的“最佳论文”大奖，该论文同样极具节能价值，相比主流词表可以节约 92% 的算力。
相关应用
相关文章推荐
字节跳动开源GAN压缩算法(算力消耗减少至1/46)字节跳动近期开源了一项代号为 OMGD 的压缩技术。这是字节自研的 GAN（生成对抗网络）压缩算法，在保证生成效果不变的前提下，算力消耗最低可以减少到原来的 1/46，相比之前业界的最...[详情]
-
消息称字节跳动将于近期取消大小周
据媒体报道，字节跳动或于近期宣布取消大小周。多位字节跳动员工向媒体证实， 公司内部正调研是否取消大小周，或将于近期宣布取消 。一位字节跳动员工称，“已经箭在弦上了，但还没有...[详情]
- 字节跳动火山翻译团队推出全新 AI 练习引擎
- 字节跳动：火山引擎目前没有推出公有云产品
- 北京字节跳动科技有限公司注册资本增加至2亿 增幅达到1900%
- 字节跳动AVG编码技术新的突破：让视频缩小13%
- 消息称字节跳动已经全面推出搜索竞价广告
- 字节跳动澄清：TikTok Global是字节跳动100%持股的子公司！
- 字节跳动：不会交出TikTok源代码和核心算法，甲骨文仅是合作伙伴
- 字节跳动推企业技术服务平台“火山引擎 ”
同类排行
最新新闻资讯
- 有哪些永久免费观看视频的app推荐_不用付费在线观看高清版视频的软件
有哪些永久免费观看视频的app推荐？很多小伙伴都会在无聊的时候打开视频APP刷一刷短视频 长视频，现在网上也有许多视频软件可以下载使用，但是还有不少视频app是需要用户开通会员才能观看的，给用户的体验并不好。接下来小编就给大家推荐几个不用付费在线观看高清版视频的软件，快来下载体验。
2021-08-28 18:23 - 成为直播人的app有哪些软件推荐_免费的做直播APP平台下载安装
成为直播人的app有哪些软件推荐？随着直播行业的迅速发展，现在有许多直播软件可以供用户在线观看直播。有不少用户受到相关主播的影响，也想成为直播人，但是不知道成为直播人的软件有哪些，感到很困惑，别着急，下面小编就给大家带来几个免费做直播的APP，快跟小编一起往下看看吧！
2021-08-28 18:23 - 无广告免费小说app推荐哪个好用_全网最全小说免费阅读app排行榜
无广告免费小说app推荐哪个好用？目前很多年轻的小伙伴都喜欢在自己空余的时间中阅读小说，拥有一款好用的小说阅读器，能够让小伙伴们在观看小说的时间完全沉浸其中，但是现在市面上很多小伙伴都是需要用户开通会员，或者是观看广告解锁部分小说文章。下面附件站小编给大家带来全网最全小说免费阅读app排行榜，有需要小说app的小伙伴快来点击看看。
2021-08-28 18:23 - 听歌免费的音乐app有哪些比较好用_不用付费的应用软件app可以听歌
听歌免费的音乐app有哪些比较好用？音乐对于很多小伙伴们来说是一项非常解压的休闲方式，很多小伙伴在一些特定的时间下喜欢听一些音乐来放松自己，同时在早上的时间段，音乐也能够小伙伴们提起精气神，充满活力的开启一整天的生活。下面附件站小编给大家带来不用付费的应用软件app可以听歌，有喜欢听歌的小伙伴快来下载使用吧。
2021-08-28 18:23 - 可以免费追剧的app有哪些无广告推荐_永久免费不用VIP的追剧软件app排行榜
可以免费追剧的app有哪些无广告推荐？对于现在智能手机的发展，很多小伙伴都喜欢使用自己的手机进行追剧，并且在手机上下载几款追剧软件随时可以观看，但是一些小伙伴想要下载那种不需要充值开通会员，以及没有广告的追剧软件。下面附件站小编给大家带来永久免费不用VIP的追剧软件app排行榜，有喜欢追剧的小伙伴可以点击下载使用。
2021-08-28 18:23 - 现在比较火的直播平台有哪些软件_2023新推出的排名前十的直播平台
现在比较火的直播平台有哪些软件？直播对于大部分小伙伴们来说是最快的解压方式，大部分小伙伴都喜欢在自己的忙于工作结束之后开启一场直播的观看，但是一些小伙伴不知道目前哪些直播平台比较火，拥有跟多的直播节目效果，让小伙伴们能够更加有观赏性。下面附件站小编给大家带来2023新推出的排名前十的直播平台，有喜欢观看直播的小伙伴可以点击下载。
2021-08-28 18:23 - 手机上听歌免费的音乐软件哪个好2023_十大真正免费听歌的app软件不用充会员
手机上听歌免费的音乐软件哪个好2023？音乐对于现在很多小伙伴们来说已经成为生活中不可分割的，不管是在做什么事情，只要能够音乐的加持就能够充满十分的活力，但是一些小伙伴不喜欢在音乐播放器软件中开通会员，想要找一款免费听音乐的软件。下面附件站小编给大家带来十大真正免费听歌的app软件不用充会员，有喜欢听音乐的小伙伴赶紧来点击查看。
2021-08-28 18:23 - 网约车打车哪个平台最便宜最快_首单免费的打车软件app服务好
网约车打车哪个平台最便宜最快？打网约车是现在很普遍的一个现象，特别是在下雨、或者是大太阳的天气，站在马路边上拦出租车就先不是那么显示，小伙伴们能够直接在家中使用软件就能够预约司机车上接送，但是一些小伙伴想要那种服务态度好、价格不贵的打车软件。下面附件站小编给大家带来首单免费的打车软件app服务好，有需要的小伙伴可以点击下载。
2021-08-28 18:23 - 听音乐免费的软件哪个好不用登录推荐_不用VIP的手机音乐软件2023年排行榜
听音乐免费的软件哪个好不用登录推荐？音乐对于现在很多小伙伴来说已经是生活中必备的一项活动，特别是一些小伙伴喜欢在早上通勤的时候，音乐的声音能够让小伙伴们的心情变得愉悦，让一整天的工作都变得格外的有激情。下面附件站小编给大家带来不用VIP的手机音乐软件2023年排行榜，有喜欢听音乐的小伙伴快来下载使用吧。
2021-08-28 18:23 - 手机哪个平台直播好看点没那么严_最好看的免费观看直播平台排行榜
手机哪个平台直播好看点没那么严？现在很多小伙伴都喜欢在自己的生活之余观看直播，特别是大部分小伙伴都是在晚上进行直播的观看，一些小伙伴想要找一些还看一点，平台没有那么严的直播间，能够看一些劲爆的舞蹈才艺展示。下面附件站小编给大家带来最好看的免费观看直播平台排行榜，有喜欢观看直播的小伙伴可以点击下载。
2021-08-28 18:23