Hugging News #0414: Attention 在多模态情景中的应用、Unity API 以及 Gradio 主题构建器
每一周,我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新,包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等,我们将其称之为「Hugging News」,本期 Hugging News 有哪些有趣的消息,快来看看吧!
社区动向
Attention 在视觉领域的应用
注意力机制改变了许多学科的深度学习研究,从 NLP 开始扩展到视觉、语音等。注意力机制的使用在深度学习研究中变得越来越流行,理解和解释注意力机制的内部工作是至关重要的。
我们发布了一个教程,介绍了 Attention 在视觉和多模态情景中的应用,重点讲解了如何理解和解释注意力,包括使用注意力作为解释、探究注意力的深度和广度、探究跨注意力等方面以及一些最新研究成果和未来研究方向。
查看示例和教程内容: https://hf.co/all-things-vits
Scikit-learn
我们正在联合 Scikit-learn 共同举办社区冲刺活动,时间是 4 月 12 日 - 4 月 30 日。在这个社区冲刺活动中,我们将从 Scikit-learn 文档中构建交互式演示,并将这些演示直接贡献给文档。我们会使用 Gradio 库来创建前端应用,支持数据可视化库和 skops 集成,使用一行代码就能启动分类或回归界面。应用构建完成后,我们将创建一个 Hugging Face Space,上传应用文件和 requirements.txt
就可以将应用部署。最后将应用 PR 回 scikit-learn 库的原始文档。这是一个很好的贡献开源的方式,快来参加吧!
查看活动安排: https://github.com/huggingface/community-events/blob/main/sklearn-sprint/guidelines.md
开源库更新
Gradio 主题构建器正式开源
Gradio 主题构建器 (Gradio Theme Builder) 是一个开源的机器学习应用的 GUI 工具,可以帮助用户轻松构建机器学习应用的 UI 界面。只需升级版本,运行 gr.themes.builder()
即可。
Transformers 支持流式输出
从 4.28 版本开始,?? transformers 库加入了 generate()
流式生成器,支持文本-文本、语音-文本或图像-文本模型的输出流式传输。开发者可以通过添加 TextStreamer
类轻松实现文本输出流,也可以根据需要创建自己的流式传输类。此外,?? transformers 还计划将此功能扩展到 beam search 方法、pipeline
类和 Gradio 等。
查看文档: https://hf.co/docs/transformers/main/en/generation_strategies#streaming
学习资源 & 内容更新
新的学习资源页面
我们将 NLP 课程和 RL 课程放在了一个新的学习资源页面: hf.co/learn
Hugging Face Unity API
开源的 Hugging Face Unity API 发布啦,它可以让你更轻松地在 Unity 项目中使用 Hugging Face 推理 API。目前支持对话 API,未来会增加更多功能。
查看应用示例: https://hf.co/spaces/dylanebert/unity-chat
查看开源代码: https://github.com/huggingface/unity-api
使用 Flower 在 IMDB 数据集上微调 distilBERT 进行序列分类
我们发布了一篇博客,介绍了如何使用 Hugging Face 和 Flower 在多端进行语言模型的联邦训练。以 IMDB 数据集为例,使用预训练的 Transformer 模型(distilBERT)进行序列分类,最终目标是检测电影评分是积极还是消极。
查看这篇博客文章: https://hf.co/blog/fl-with-flower
使用 Hugging Face 的 Docker Spaces 轻松构建机器学习应用程序
Docker 团队发布了一篇博文,介绍了 Hugging Face 团队对 Docker Spaces 的支持——用户可以通过编写 Dockerfile 来创建任何自定义应用程序,并详细介绍了如何创建 Docker Space 并编写 FastAPI 应用程序进行文本生成。
查看这篇文章: https://www.docker.com/blog/build-machine-learning-apps-with-hugging-faces-docker-spaces/
以上就是本周的 Hugging News,祝大家周末愉快!