Transformers documentation
🤗 Transformers 笔记本
快速入门
基类
模型
预处理器
推理
Pipeline API
生成 API
优化
与模型对话
服务
训练
硬件
量化
生态系统集成
资源
API
🤗 Transformers 笔记本
您可以在这里找到 Hugging Face 提供的官方笔记本列表。
此外,我们还想在此列出社区创作的有趣内容。 如果您编写了利用 🤗 Transformers 的 notebook,并希望在此列出,请提交一个 Pull Request,以便将其收录到 Community notebooks 部分。
Hugging Face 的笔记本 🤗
文档笔记本
您可以将文档中的任意页面作为 Colab 中的 notebook 打开(相关页面上直接提供了按钮),如果您需要,它们也列在这里:
| Notebook | 描述 | |||
|---|---|---|---|---|
| 库快速入门 | Transformers 中各种 API 的介绍 | |||
| 任务概述 | 如何按任务运行 Transformers 库中的模型 | |||
| 预处理数据 | 如何使用分词器对数据进行预处理 | |||
| 微调预训练模型 | 如何使用 Trainer 对预训练模型进行微调 | |||
| 分词器概览 | 分词器算法之间的差异 | |||
| 多语言模型 | 如何使用该库的多语言模型 |
PyTorch 示例
自然语言处理
| Notebook | 描述 | |||
|---|---|---|---|---|
| 训练你的分词器 | 如何训练和使用您自己的分词器 | |||
| 训练你的语言模型 | 如何轻松开始使用 transformers | |||
| 如何在文本分类任务上微调模型 | 展示如何对数据进行预处理,并在任意 GLUE 任务上微调预训练模型。 | |||
| 如何在语言建模上微调模型 | 展示如何对数据进行预处理,并在因果语言建模或掩码语言建模任务上微调预训练模型。 | |||
| 如何在词元分类任务上微调模型 | 展示如何对数据进行预处理,并在命名实体识别(NER)和词性标注(PoS)等词元分类任务上微调预训练模型。 | |||
| 如何在问答任务上微调模型 | 展示如何对数据进行预处理,并在 SQUAD 上微调预训练模型。 | |||
| 如何在多选题上微调模型 | 展示如何对数据进行预处理,并在 SWAG 上微调预训练模型。 | |||
| 如何在翻译任务上微调模型 | 展示如何对数据进行预处理,并在 WMT 上微调预训练模型。 | |||
| 如何在摘要任务上微调模型 | 展示如何对数据进行预处理,并在 XSUM 上微调一个预训练模型。 | |||
| 如何从零开始训练语言模型 | 突出显示在自定义数据上有效训练 Transformer 模型的所有步骤 | |||
| 如何生成文本 | 如何使用 transformers 的不同解码方法进行语言生成 | |||
| Reformer | Reformer 如何突破语言建模的极限 |
计算机视觉
| Notebook | 描述 | |||
|---|---|---|---|---|
| 如何在图像分类上微调模型(Torchvision) | 展示如何使用 Torchvision 对数据进行预处理,并在图像分类任务上微调任意预训练的视觉模型 | |||
| 如何在图像分类任务上微调模型(Albumentations) | 展示如何使用 Albumentations 对数据进行预处理,并在图像分类任务上微调任意预训练的 Vision 模型 | |||
| 如何在图像分类任务上微调模型(Kornia) | 展示如何使用 Kornia 对数据进行预处理,并在图像分类任务上微调任意预训练的视觉模型 | |||
| 如何使用 OWL-ViT 执行零样本目标检测 | 展示如何使用文本查询在图像上执行零样本目标检测 | |||
| 如何微调图像描述模型 | 展示如何在自定义数据集上微调 BLIP 以进行图像描述 | |||
| 如何使用 Transformers 构建图像相似度系统 | 展示如何构建一个图像相似度系统 | |||
| 如何在语义分割任务上微调 SegFormer 模型 | 展示如何预处理数据,并在语义分割任务上微调预训练的 SegFormer 模型 | |||
| 如何在视频分类任务上微调 VideoMAE 模型 | 展示如何对数据进行预处理,并在视频分类任务上微调预训练的 VideoMAE 模型 |
音频
| Notebook | 描述 | ||
|---|---|---|---|
| 如何微调英语语音识别模型 | 展示如何对数据进行预处理,并在 TIMIT 上微调一个预训练的 Speech 模型 | ||
| 如何微调任意语言的语音识别模型 | 展示如何对数据进行预处理,并在 Common Voice 上微调一个多语言预训练的语音模型 | ||
| 如何在音频分类任务上微调模型 | 展示如何对数据进行预处理,并在关键词检测任务上微调预训练的 Speech 模型 |
生物序列
| Notebook | 描述 | ||
|---|---|---|---|
| 如何微调预训练蛋白质模型 | 了解如何对蛋白质进行分词,并对大型预训练蛋白质“语言”模型进行微调 | ||
| 如何生成蛋白质折叠 | 了解如何从蛋白质序列生成完整的蛋白质模型和 PDB 文件 | ||
| 如何微调 Nucleotide Transformer 模型 | 了解如何对 DNA 进行分词,并微调一个大型预训练 DNA“语言”模型 | ||
| 使用 LoRA 微调 Nucleotide Transformer 模型 | 以内存高效的方式训练更大的 DNA 模型 |
其他模态
| Notebook | 描述 | ||
|---|---|---|---|
| 概率时间序列预测 | 查看如何在自定义数据集上训练 Time Series Transformer |
实用笔记本
| Notebook | 描述 | ||
|---|---|---|---|
| 如何将模型导出为 ONNX | 突出介绍如何通过 ONNX 导出并运行推理工作负载 |
Optimum 笔记本
🤗 Optimum 是 🤗 Transformers 的扩展,提供了一组性能优化工具,可在目标硬件上以最高效率训练和运行模型。
| Notebook | 描述 | ||
|---|---|---|---|
| 如何使用 ONNX Runtime 对文本分类模型进行量化 | 展示如何使用 ONNX Runtime 对任意 GLUE 任务中的模型应用静态量化和动态量化。 | ||
| 如何使用 ONNX Runtime 对文本分类模型进行微调 | 展示如何使用 ONNX Runtime 对数据进行预处理,并在任意 GLUE 任务上微调模型。 | ||
| 如何使用 ONNX Runtime 对模型进行摘要任务微调 | 展示如何使用 ONNX Runtime 对数据进行预处理,并在 XSUM 上微调模型。 |
社区笔记本
社区开发的更多笔记本可在此处获取。
Update on GitHub