Hugging Face

Falcon 180B 是使用 Amazon SageMaker 在多达 4096 个 GPU 上同时对 3.5 万亿个 token 进行训练，总共花费了约 7,000,000 个 GPU 计算时，这意味着 Falcon 180B 的规模是 Llama 2 的 2.5 倍，而训练所需的计算量是 Llama 2 的 4 倍。从架构维度来看，Falcon 180B 是 Falcon 40B 的升级版本，并在其基础上进行了创新，比如利用 Multi-Query Attention 等来提高模型的可扩展性。

ILLA Cloud 与 Hugging Face 的合作为用户提供了一种无缝而强大的方式来构建利用尖端 NLP 模型的应用程序。遵循本教程，你可以快速地创建一个在 ILLA Cloud 中利用 Hugging Face Inference Endpoints 的音频转文字应用。这一合作不仅简化了应用构建过程，还为创新和发展提供了新的可能性。

最近 Kakao Brain 在 Hugging Face 发布了一个全新的开源图像文本数据集 COYO，包含 7 亿对图像和文本，并训练了两个新的视觉语言模型 ViT 和 ALIGN和。这是 ALIGN 模型首次公开发布供开源使用，同时 ViT 和 ALIGN 模型的发布都附带有训练数据集。Google 的 ViT 和 ALIGN 模型都使用了巨大的数据集 (ViT 训练于 3 亿张图像，ALIGN 训练于 18 亿个图像 - 文本对) 进行训练，因为数据集不公开导致无法复现。

每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」，本期 Hugging News 有哪些有趣的消息，快来看看吧！

用 AI 模型创造更多可能，邀请你在 ILLA Cloud 平台里使用 Hugging Face！

对于 🤗 Transformers 来说，这是激动人心的一年。2022 年，我们的每周活跃用户数量增加了两倍，最近的一周用户超过 100 万，平均每日 pip 安装量为 30 万🤯我们在音频🔊、文本📚、视觉🖼️、多模态甚至时间序列📈和蛋白质折叠🧬场景下支持的模型架构数量增加了一倍（89 到 167🤯）以下是这些新模型中的一些亮点👇一月份，我们支持了 Swin Transformer 一个来自 @MSFTResearch 的视觉模型。它可以用作图像分类、对象检测或语义分割等各种任务的骨干。

简单来说 Dreambooth 就是通过一个官方模型已经学会的概念来学习此概念的一个新的实例。比如说训练一个能生成的我家狗狗 caicai 的模型，那么 type_of_thing = “dog" name_of_concept = “caicai”注意 type_of_thing 一定是一个模型已经了解的概念。name_of_concept 一定是一个模型没有学习过的词汇。可以通过调用官方模型来了解模型是否了解这些概念。

欢迎使用 AI 进行游戏开发!在本系列中，我们将使用各种 AI 工具，在 5 天内创建一个功能完备的农场游戏。到本系列结束时，你将了解到如何将多种 AI 工具整合到游戏开发流程中。如果你还没有了解这个系列的第一篇，欢迎到先回顾一下。

本质上来讲，图描述了由关系互相链接起来的实体。现实中有很多图的例子，包括社交网络 (如推特，长毛象，以及任何链接论文和作者的引用网络) 、分子、知识图谱 (如 UML 图，百科全书，以及那些页面之间有超链接的网站) 、被表示成句法树的句子、3D 网格等等。因此，可以毫不夸张地讲，图无处不在。图 (或网络) 中的实体称为节点(或顶点) ，它们之间的连接称为边(或链接)。举个例子，在社交网络中，节点是用户，而边是他 (她) 们之间的连接关系；在分子中，节点是原子，而边是它们之间的分子键。

兔年大吉！

Spaces 是 Hugging Face 平台提供的一个重要功能之一，通过这个功能，你可以轻松在 Hugging Face 平台构建机器学习模型应用。Space 应用使用 git 来管理代码，我们也为每个 Space 应用默认提供最高 2 核 CPU 和 16 GB 的内存空间。今天我们希望向大家分享一个关于 Space 应用的更新，我们现在已经支持创建 Space 应用的时候使用 Docker 啦！

Spaces 是 Hugging Face 平台提供的一个重要功能之一，通过这个功能，你可以轻松在 Hugging Face 平台构建机器学习模型应用。Space 应用使用 git 来管理代码，我们也为每个 Space 应用默认提供最高 2 核 CPU 和 16 GB 的内存空间。今天我们希望向大家分享一个关于 Space 应用的更新，我们现在已经支持创建 Space 应用的时候使用 Docker 啦！

介绍我们的发现和一些小技巧来帮助你在用 DreamBooth 微调 Stable Diffusion 的时候提升结果。

免费, 零基础, 提供算力, 提供代码, 无网络要求

OpenAI 推出的 ChatGPT 对话模型掀起了新的 AI 热潮，它面对多种多样的问题对答如流，似乎已经打破了机器和人的边界。这一工作的背后是大型语言模型 (Large Language Model，LLM) 生成领域的新训练范式：RLHF (Reinforcement Learning from Human Feedback) ，即以强化学习方式依据人类反馈优化语言模型。过去几年里各种 LLM 根据人类输入提示 (prompt) 生成多样化文本的能力令人印象深刻。

每天，开发人员和组织都在使用 Hugging Face 平台上托管的模型，将想法变成概念验证（proof-of-concept）的 demo，再将 demo 变成生产级的应用。

Hugging Face 的开源生态今年成长迅速