AMD 的 GPUOpen 团队公布了一个新的开源项目:Brotli-G,Brotli-G 基于 IETF 维护的完善的 Brotli 无损压缩算法标准( RFC7932),但可以使用 GPU 进一步增强 Brotli 压缩算法的性能和压缩比。 |
Brotli 压缩算法由 Google Research 开发,于 2013 年首次发布,开源规范于 2013 年至 2016 年间开发和推广。
Brotli 是 LZ77 压缩算法和霍夫曼编码(类似于 GZIP 和 Deflate)的组合,作为 GZIP 和 Deflate 算法的开源继承者,Brotli 具有相似的性能,但压缩比更好。
目前 Brotli 在 Web 应用程序和内容中被广泛采用,用于压缩 Web 应用程序资产,例如字体、javascript、图像等。
- 如今超过 95% 的网络浏览器都支持 Brotli 解压。
- 许多 Web 应用程序框架都支持 Brotli 编码(例如 NGINX 和 ASP.NET)。
- 一些 CDN 使用 Brotli 编码(例如 Azure 和 ImageKit)
Brotli-G 性能优化
Brotli-G 对标准 Brotli 比特流格式的修改主要集中在:允许在 GPU 和多线程 CPU 上进行高效的数据并行解压缩,同时仍保持相对较高压缩率。主要的变化可概括为:
- 限制要压缩的块(页面)的大小,提供在 GPU 上使用多个计算单元 (CU) 的能力。
- 实施并行霍夫曼子流,提供使用 SIMD 处理的能力。
- 简化了比特流格式,最大限度地提高 GPU 性能。
目前 Brotli-G 解压缩算法已作为 “着色器 -shader” 程序(用微软的 HLSL 高阶着色器语言编写)实现,可以在任何兼容 DirectX 的显卡上运行(但似乎不支持 AMD 的 Radeon 显卡...)。在着色器中实现解压缩,可充分利用 GPU 硬件的巨大并行处理能力,以实现快速解压缩效果。
AMD 开源的是一个 Brotli-G SDK,包含用于 CPU 和 GPU 上的 CPU 压缩和解压缩的源代码。该 SDK 还包含 CLI 应用程序的源码,可用于测量 Brotli-G 编解码器的性能。
需要注意的一件事是,已经使用 Brotli 压缩的内容,无法使用 Brotli-G 解压缩器进行解压。如果要利用 Brotli-G,必须使用兼容 Brotli-G 的压缩器(也在 SDK 中提供)重新压缩该内容。
目前该 SDK 以基于 MIT 的 BCP 78 许可证(这是标准 Brotli 压缩算法的许可证)开源,可以在其 GitHub 存储库中找到。