Hugging News #0414: Attention 在多模态情景中的应用、Unity API 以及 Gradio 主题构建器

社区动向

Attention 在视觉领域的应用

注意力机制改变了许多学科的深度学习研究，从 NLP 开始扩展到视觉、语音等。注意力机制的使用在深度学习研究中变得越来越流行，理解和解释注意力机制的内部工作是至关重要的。

我们发布了一个教程，介绍了 Attention 在视觉和多模态情景中的应用，重点讲解了如何理解和解释注意力，包括使用注意力作为解释、探究注意力的深度和广度、探究跨注意力等方面以及一些最新研究成果和未来研究方向。

查看示例和教程内容: all-things-vits (All Things ViTs)

Scikit-learn

我们正在联合 Scikit-learn 共同举办社区冲刺活动，时间是 4 月 12 日 - 4 月 30 日。在这个社区冲刺活动中，我们将从 Scikit-learn 文档中构建交互式演示，并将这些演示直接贡献给文档。我们会使用 Gradio 库来创建前端应用，支持数据可视化库和 skops 集成，使用一行代码就能启动分类或回归界面。应用构建完成后，我们将创建一个 Hugging Face Space，上传应用文件和 requirements.txt 就可以将应用部署。最后将应用 PR 回 scikit-learn 库的原始文档。这是一个很好的贡献开源的方式，快来参加吧！

查看活动安排: https://github.com/huggingface/community-events/blob/main/sklearn-sprint/guidelines.md

开源库更新

Gradio 主题构建器正式开源

Gradio 主题构建器 (Gradio Theme Builder) 是一个开源的机器学习应用的 GUI 工具，可以帮助用户轻松构建机器学习应用的 UI 界面。只需升级版本，运行 gr.themes.builder() 即可。

Transformers 支持流式输出

从 4.28 版本开始，🤗 transformers 库加入了 generate() 流式生成器，支持文本-文本、语音-文本或图像-文本模型的输出流式传输。开发者可以通过添加 TextStreamer 类轻松实现文本输出流，也可以根据需要创建自己的流式传输类。此外，🤗 transformers 还计划将此功能扩展到 beam search 方法、pipeline 类和 Gradio 等。

查看文档: Text generation strategies

学习资源 & 内容更新

新的学习资源页面

我们将 NLP 课程和 RL 课程放在了一个新的学习资源页面: hf.co/learn

Hugging Face Unity API

开源的 Hugging Face Unity API 发布啦，它可以让你更轻松地在 Unity 项目中使用 Hugging Face 推理 API。目前支持对话 API，未来会增加更多功能。

查看应用示例: https://hf.co/spaces/dylanebert/unity-chat
查看开源代码: GitHub - huggingface/unity-api

使用 Flower 在 IMDB 数据集上微调 distilBERT 进行序列分类

我们发布了一篇博客，介绍了如何使用 Hugging Face 和 Flower 在多端进行语言模型的联邦训练。以 IMDB 数据集为例，使用预训练的 Transformer 模型（distilBERT）进行序列分类，最终目标是检测电影评分是积极还是消极。

查看这篇博客文章: Federated Learning using Hugging Face and Flower

使用 Hugging Face 的 Docker Spaces 轻松构建机器学习应用程序

Docker 团队发布了一篇博文，介绍了 Hugging Face 团队对 Docker Spaces 的支持——用户可以通过编写 Dockerfile 来创建任何自定义应用程序，并详细介绍了如何创建 Docker Space 并编写 FastAPI 应用程序进行文本生成。