Transformers

Identity

• Transformersは、Hugging Faceが提供する、事前学習済みモデルを簡単に利用・学習できるオープンソースのライブラリである。検証待ち Hugging Face — Transformers
• EMNLP 2020のシステムデモンストレーション部門（2020年11月16-20日開催）にて、Hugging FaceのThomas Wolfら22名の著者による論文「Transformers: State-of-the-Art Natural Language Processing」が発表され、Honorable Demonstration Paper Awardを受賞した。論文はACL Anthologyのproceedings（38-45ページ）に掲載されている。検証待ち Transformers: State-of-the-Art Natural Language Processing

Capability

• Transformersは、Hugging Faceが提供する、事前学習済みモデルを簡単に利用・学習できるオープンソースのライブラリである。検証待ち Hugging Face — Transformers
• Transformersは、多数の事前学習済みモデルを共通のAPIで扱える点を特徴とし、PyTorchなどの上でモデルの利用・学習を容易にする。検証待ち Hugging Face — Transformers

Credibility

• VentureBeat（2019年9月26日付）は、Transformersライブラリ（PyTorch版）が2019年半ばまでに50万件以上のPipインストールを記録し、Microsoft Bing・Apple・Stitch Fixを含む1,000社以上に採用されていたと報じた。CEOのClément Delangue氏はPyTorchとTensorFlow両対応の利点を説明した。検証待ち Hugging Face launches popular Transformers NLP library for TensorFlow

Use Case

公開Evidence未整備

Constraints / Current Status

• Transformersは、多数の事前学習済みモデルを共通のAPIで扱える点を特徴とし、PyTorchなどの上でモデルの利用・学習を容易にする。検証待ち Hugging Face — Transformers

Key References

• Transformersはどれだけ多くの企業に採用されていますか？
• Transformersライブラリの学術的な出典はどこにありますか？
• Transformers（Hugging Face）とは何ですか？

Part of

• Hugging Face— TransformersはHugging Faceが提供するMLライブラリである。

Integrates With

• PEFT— PEFTはHugging Face Transformersのモデルをラップして動作する設計になっている。
• bitsandbytes— bitsandbytesはHugging Face Transformersと標準的に統合されている量子化ライブラリである。

Related

• PyTorch— TransformersはPyTorchなどの上で動作するライブラリである。