Hugging Face 每周速递: Space 支持创建模版应用、Hub 搜索功能增强、BioGPT-Large 还有更多...

于 2023-02-24 21:30:51 发布
阅读量304 收藏
点赞数
文章标签： 人工智能 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/HuggingFace/article/details/129211042
版权

745380227a4ae12cd49f0610042e8fea.jpeg

每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」，本期 Hugging News 有哪些有趣的消息，快来看看吧！

产品更新

🤗 Space 应用支持使用模版了

只需点击几下，即可轻松构建、部署和共享你最喜爱的开源项目，Hugging Face Spaces 已经支持使用 Docker 构建，现在它又增加了模版的支持。

我们的第一个 Space 模版是和 Argilla 合作完成，你可以在 Space SDK 中选择 Docker，然后就可以选择 Argilla 模版了。

09c4ab7f85050c1f3dd9462ac4bc72fe.png

Argilla 是一个开源的、以数据为中心的 NLP 平台，可以用于数据标注、机器学习运维和反馈循环，刚刚获得一轮 160 万美元的投资，查看 Argilla 官网了解更多:
https://www.argilla.io/

🤗 Hub 上的搜索功能更强了

本月初上线的 Hugging Face Hub 的全文搜索功能现已支持实时反馈查询结果、暗色模式以及可分享的搜索链接等，帮助用户更快速在 Hub 上找到所需要的内容，仅上线一周，就有超过 7.5 万次搜索！快来试试看吧:
https://hf.co/search

一个新的 GitHub Action 发布，将你的代码仓库同步到 🤗 Hub

a24b0d49cce18e89d9a3da72425bf4b2.jpeg

那废话，不多说；那同步，来一波！
https://github.com/marketplace/actions/sync-with-hugging-face-hub

🤗 Hub 分类新增图机器学习

5a3259a6f045abb6370c3c4fd4d160d6.png

如果你对图机器学习还不熟悉的话，我们之前发过一篇关于 图机器学习相关的文章 可以了解一下，🤗 Hub 的分类新增了图机器学习的分类，可以去看看相关的数据集和模型找找灵感啦:
https://bit.ly/HFGraphML

开源库更新

PEFT 开源！低成本高效微调模型不是梦

6991a608652262f75ed1d0263f59cfbb.jpeg

🤗 PEFT (Parameter-Efficient Fine-Tuning) 是 Hugging Face 开发的一个库，旨在用更少的可训练参数对大型语言模型进行微调，从而显著节省成本和时间。关于 PEFT，我们也有一篇博客介绍，会在之后的微信推文中发布。

🤗Transformers 增加了第一个文本转语音模型

47bf48ca81bfc3ebc8bcba6763635f73.jpeg

SpeechT5 是我们添加到 🤗 Transformers 的第一个文本转语音模型，我们计划在不久的将来添加更多的 TTS 模型。

「看图说话」模型合集

964420b23a0d2a86aed2e2e865fc399b.png

在这个 Space 应用中，Hugging Face 的机器学习工程师 Niels 向大家对比了几种不同的图生文模型: GIT、BLIP、CoCa 和 BLIP-2，你可以上传一个图片来查看每个模型根据图片生成的图片文字描述结果，小编用了一个红包封面图片让几个模型说说看是啥内容，你觉得哪个更准呢？
https://hf.co/spaces/nielsr/comparing-captioning-models

在 🤗 Diffusers 库中使用 Latent Upscaler 生成更高分辨率的图片

02bd15904cbc4844849c761bdce75a24.jpeg

Stable Diffusion Latent Upscaler 模型由 Katherine Crowson 与 Stability AI 合作构建。它可以在任何 StableDiffusionUpscalePipeline checkpoint 之上使用，以将其输出图像分辨率提高 2 倍。

查看模型卡片:
https://hf.co/stabilityai/sd-x2-latent-upscaler

查看文档:
https://hf.co/docs/diffusers/api/pipelines/stable_diffusion/latent_upscale

查看 Space 应用:
https://hf.co/spaces/huggingface-projects/stable-diffusion-latent-upscaler

你可以在 🤗 Transformers 中使用 BLIP-2 啦！

92414d72de87ae0d79efb4efe34b2ae7.jpeg

上周我们介绍了一个能够教会 ChatGPT 看图的、由 Salesforce Research 开源的大语言模型 BLIP-2，大家可以在上面的聊天截图里看看它的强大之处。

现在你已经可以在 🤗 Transformers 中使用它了，详见文档:
https://hf.co/docs/transformers/main/en/model_doc/blip-2

没有试过的朋友们，可以在 Space 应用中试试看:
https://hf.co/spaces/Salesforce/BLIP2

学习资源 & 内容更新

LAION.ai 团队制作了一个 CoCa (Contrastive Captioners) 的 Space 应用，快来试试看:
https://hf.co/spaces/laion/CoCa

本月初微软发布的 BioGPT-Large 已经发布到 Hugging Face Hub 上啦，欢迎使用:
https://hf.co/microsoft/BioGPT-Large

在生成文本时，大语言模型会输出每个词在其生成的文本序列中出现的概率分布，这些概率分布反映了模型在生成每个词时的置信度。如果它在「一本正经的胡说八道」，那么它生成的文本中每个词的概率分布可能与正确答案的概率分布有较大的差异。

你可以用这个 Space 应用通过为语言模型的输出文字进行着色，例如，对于某个给定的单词，如果其概率很低，那么可以使用红色高亮显示该单词。这样，用户可以更加直观地了解模型输出的每个单词的置信度和概率分布，从而更好地识别可能存在的错误。
https://hf.co/spaces/joaogante/color-coded-text-generation

以上就是本周的 Hugging News，祝大家有一个愉快的周末！

Hugging Face
关注
博客
大模型评估排障指南 | 关于推理
04-24 439
即在 layer 级拆分模型，不同的 layer 被分配到不同的 GPU 上。由于推理时前向过程是线性的，例如 layer 1 的输出是 layer 2 的输入，因此 layer 2 分配的 GPU 需要等待 layer 1 的计算结束才能开始 (也叫 “冒泡 (bubble)”)，同时数据和中间结果也需要 GPU 间传输，这也就导致执行速度较慢。更一般地，确保输入模型的样本的上下文大小是按从大到小的顺序，这样如果上下文大小过大，模型就会直接报错，避免了模型一开始正常运行，直到某个时间才出问题。
博客
让 LLM 来评判 | 技巧与提示
04-09 592
例如，成对比较模型的训练集数据格式中提供了参考答案，如果在评估时没有给定参考答案或者给定的参考答案格式有误，那么评估结果就不可信。例如在某些特定领域 (如医学、法律、数学等)，如果标注员专业性不够，那么得到的结果可能跟直接采用 LLM 一样差。：同一 prompt 输入评估模型执行多次得到的结果可能不一样 (如果温度参数不设为 0)。例如对于施加了相同程度噪声的文本，使用评估模型评估文本质量的评分无法反映噪声的程度。缓解措施：仔细遵循评估模型训练集 prompt 格式 (比如指令微调模型的格式)。
博客
Open R1 项目进展第三期
04-03 556
虽然最终子任务通常是完整问题，但其他大多数子任务往往是难度较低的问题，参赛者可以选择解决部分子任务以获得部分分数，而不是尝试完美解决完整问题 (完美得分非常罕见)。虽然我们计划未来通过模型生成并验证更多具有挑战性的测试用例，添加到我们的 CodeForces 数据集中，但目前我们转向了其他地方寻找完整可用的题目数据。具体来说，我们先提交针对问题最后一个子任务的解决方案，然后依次提交针对倒数第二个、第三个子任务的代码，同时跳过已解决的子任务。不过不管怎样，我们试过的所有数据集里，打包的表现都不如不打包。
博客
Open R1 项目进展第二期
03-31 1047
虽然我们升级了 Math-Verify，让它能更好地处理这些怪格式 (后面会讲改进)，但还是找了个备用方案: 用 Llama-3.3-70B-Instruct 当“裁判”，从被拒的答案里救回一些靠谱的。DeepSeek 团队生成了 60 万条推理记录，用来微调 Qwen 和 Llama 系列模型，结果证明，不用强化学习，直接从 R1 “蒸馏”出来的效果也很棒。除此之外，我们还聊聊社区里一些让人兴奋的进展，比如怎么整理出小而精的高质量数据集来微调模型，以及如何在训练和推理时控制推理模型的“思考步数”。
博客
Open R1 项目进展第一期
03-28 938
但效果不好，吞吐量低，只能同时处理 8 个请求，GPU 的 KV 缓存很快就满了。DeepSeek R1 发布已经两周了，而我们启动 open-r1 项目——试图补齐它缺失的训练流程和合成数据——也才过了一周。我们这才刚起步呢，打算把训练流程弄完，在小模型上试试，再用放大版的推理流程搞出高质量的数据集。虽然大家还在研究 DeepSeek-R1 的成果和报告，但这款模型在发布短短两周后，就已经火遍了大街小巷，吸引了无数目光。: 一个超棒的合成推理数据集，有 114k 个例子，数学、科学、代码、谜题啥都有。
博客
为什么 AI 模型离科学革命还差得很远？
03-26 919
文章的核心观点是，在未来一两年内，我们将拥有一个“装在数据中心里的爱因斯坦之国”，所有 21 世纪的科学发现将在短短 5 到 10 年内被一股脑地完成，从而压缩了整个世纪的科技进程。现在，我们评估 AI 模型智能提升的方式，大多是通过一些“高难度考试题”，比如所谓的“人类的最后一场考试”或 “Frontier Math”，这些测试由博士生设计，问题复杂但都是封闭式、明确有标准答案的题目。在我看来，按照当前的发展路径，我们真正可能得到的，是“一国的服务器上全是唯唯诺诺的好学生”，而不是爱因斯坦。
博客
常见的 AI 模型格式
03-25 775
GGUF 格式的 Llama-3.1 8B 模型示例，链接https://hf.co/bartowski/Meta-Llama-3.1-8B-Instruct-GGUF/tree/main。虽然也可以将其用于其他类型的模型，例如通过stable-diffusion.cpp实现的扩散模型，但这并不像在语言模型中的应用那样普遍。
博客
SmolVLM2: 让视频理解能力触手可及
03-21 886
模型与演示全集https://hf.co/collections/HuggingFaceTB/smolvlm2-smallest-video-lm-ever-67ab6b5e84bf8aaa60cb17c7。虽然属于实验性发布，但期待它能激发更多创新应用。微调笔记https://github.com/huggingface/smollm/blob/main/vision/finetuning/SmolVLM2_Video_FT.ipynb。我们推出三款新模型 (2.56 亿/5 亿/22 亿参数)。
博客
在 Hugging Face Spaces 上使用 Gradio 免费运行 ComfyUI 工作流
03-18 696
在本教程中，我将逐步指导如何将一个复杂的 ComfyUI 工作流转换为一个简单的 Gradio 应用程序，并讲解如何将其部署在 Hugging Face Spaces 的 ZeroGPU 无服务器架构上，这样可以让它以无服务器的方式免费部署和运行。不过，你可能需要根据本教程中学到的知识进行一些修正。虽然需要一些基础的编程知识，但我鼓励初学者尝试跟随本教程，因为它可以作为一个很好的 Python、Gradio 和 Hugging Face Spaces 的入门指南，不需要太多的编程经验。
博客
在 Hugging Face 上部署语音转语音模型
03-11 870
介绍S2S (语音到语音)是 Hugging Face 社区内存在的一个令人兴奋的新项目，它结合了多种先进的模型，创造出几乎天衣无缝的体验: 你输入语音，系统会用合成的声音进行回复。https://github.com/huggingface/speech-to-speech该项目利用 Hugging Face 社区中的 Transformers 库提供的模型实现了流水化处理。该流程处理由以下组件...
博客
LayerSkip: 使用自推测解码加速大模型推理
03-10 908
自推测解码是一种新颖的文本生成方法，它结合了推测解码 (Speculative Decoding) 的优势和大语言模型 (LLM) 的提前退出 (Early Exit) 机制。该方法出自论文LayerSkip: Enabling Early-Exit Inference and Self-Speculative Decoding。它通过使用 同一个模型 的早期层来生成候选词元 (token)，并使...
博客
从文件到块: 提高 Hugging Face 存储效率
03-03 688
Hugging Face 在Git LFS 仓库中存储了超过30 PB 的模型、数据集和 Spaces。由于 Git 在文件级别进行存储和版本控制，任何文件的修改都需要重新上传整个文件。这在 Hub 上会产生高昂的成本，因为平均每个 Parquet 和 CSV 文件大小在 200-300 MB 之间，Safetensor 文件约 1 GB，而 GGUF 文件甚至可能超过 8 GB。设想一下，仅仅修...
博客
让 LLM 来评判 | 设计你自己的评估 prompt
02-26 610
这是 让 LLM 来评判 系列文章的第三篇，敬请关注系列文章:基础概念选择 LLM 评估模型设计你自己的评估 prompt评估你的评估结果奖励模型相关内容技巧与提示通用 prompt 设计建议我总结的互联网上通用 prompt 的通用设计原则如下:任务描述清晰:Your task is to do X (你的任务是 X).You will be provided with Y (你拿到的信息是 Y...
博客
AI 艺术工具通讯
02-20 957
创刊号 ????AI 领域的发展速度令人惊叹，回想一年前我们还在为生成正确手指数量的人像而苦苦挣扎的场景，恍如隔世 ????。过去两年对开源模型和艺术创作工具而言具有里程碑意义。创意表达的 AI 工具从未像现在这般触手可及，然而这仅仅是冰山一角。让我们共同回顾 2024 年 AI 艺术领域的关键突破与创新工具，并展望 2025 年的发展趋势 (剧透预警 ????: 我们将启动月度资讯精选的订阅????)。2024 重大发...
博客
让 LLM 来评判 | 奖励模型相关内容
02-14 549
这是 让 LLM 来评判 系列文章的第五篇，敬请关注系列文章:基础概念选择 LLM 评估模型设计你自己的评估 prompt评估你的评估结果奖励模型相关内容技巧与提示什么是奖励模型？奖励模型通过学习人工标注的成对 prompt 数据来预测分数，优化目标是对齐人类偏好。训练完成后，奖励模型可以作为人工评估代理的奖励函数，用来改进其他模型。成对比较评分最常见的奖励模型类型是 Bradley-Terry ...
博客
让 LLM 来评判 | 评估你的评估结果
02-10 295
这是 让 LLM 来评判 系列文章的第三篇，敬请关注系列文章:基础概念选择 LLM 评估模型设计你自己的评估 prompt评估你的评估结果奖励模型相关内容技巧与提示在生产中或大规模使用 LLM 评估模型之前，你需要先评估它在目标任务的表现效果如何，确保它的评分跟期望的任务表现一致。注：如果评估模型的输出结果是二元分类，那么评估会相对简单，因为可使用的解释性分类指标有很多 (如准确率、召回率和精确率...
博客
让 LLM 来评判 | 选择 LLM 评估模型
01-14 636
这是 让 LLM 来评判 系列文章的第二篇，敬请关注系列文章:基础概念选择 LLM 评估模型设计你自己的评估 prompt评估你的评估结果奖励模型相关内容技巧与提示使用现有的 LLM 评估模型时，你可以选择：通用性强、能力高的大模型、专业性强、特定数据偏好的小模型、或自行训练模型。通用性强、能力高的大模型https://arxiv.org/abs/2306.05685v4专业性强、特定数据偏好的小...
博客
让 LLM 来评判 | 基础概念
01-10 641
这是 让 LLM 来评判 系列文章的第一篇，敬请关注系列文章:基础概念选择 LLM 评估模型设计你自己的评估 prompt评估你的评估结果奖励模型相关内容技巧与提示什么是评估模型？评估模型 (Judge models) 是一种 用于评估其他神经网络的神经网络。大多数情况下它们用来评估生成文本的质量。评估模型涵盖的范围很广，从小型的特定分类器 (例如 “垃圾邮件分类器”) 到大型的 LLM，或大而广...
博客
自动评估基准 | 一些评估测试集
01-08 262
这是 自动评估基准 系列文章的第三篇，敬请关注系列文章:基础概念设计你的自动评估任务一些评估测试集技巧与提示如果你感兴趣的任务已经得到充分研究，很可能评估数据集已经存在了。下面列出了一些近年来开发构建的评估数据集。需要注意的是：大部分数据集有些 “过时”，因为它们是在 LLM 出现之前构建的，当时是为了评估语言文本的某个特定属性 (如翻译、摘要)，但是可能已经不适合现在的 LLM 评估方法了 (现...
博客
基于开放模型的推理时计算缩放
12-31 985
过去几年，大语言模型 (LLM) 的进程主要由训练时计算缩放主导。尽管这种范式已被证明非常有效，但预训练更大模型所需的资源变得异常昂贵，数十亿美元的集群已经出现。这一趋势引发了人们对其互补方法的浓厚兴趣， 即推理时计算缩放。推理时计算缩放无需日趋庞大的预训练预算，而是采用动态推理策略，让模型能够对难题进行“更长时间的思考”。最著名的案例是 OpenAI 的 o1 模型，随着推理时计算量的增加，该模...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值