• Home
  • News
  • PyTorchコミュニティとの連携を強化

News

PyTorchコミュニティとの連携を強化

第一弾となるpytorch-pfn-extrasをオープンソース公開、 Optuna はPyTorchエコシステムに公式登録

2020.05.12

株式会社Preferred Networks(本社:東京都千代田区、代表取締役 最高経営責任者:西川徹、プリファードネットワークス、以下、PFN)は、PyTorchを利用した深層学習の研究開発をサポートするためのライブラリpytorch-pfn-extrasをオープンソースソフトウェア(OSS)として本日公開しました。また、機械学習向けハイパーパラメータ最適化ライブラリOptuna™ のPyTorchエコシステム登録をはじめ、外部のPyTorch開発チームと協力し、自社開発するソフトウェアのPyTorchコミュニティとの連携を強化しています。

● pytorch-pfn-extrasのOSS公開について

 

pytorch-pfn-extrasは、深層学習フレームワークをChainer™からPyTorchへ移行する過程で社内外から寄せられたフィードバックを元に、特に有用度の高いChainerの機能をPyTorch向けに再実装して公開するものです。

pytorch-pfn-extrasの初版リリースには以下の機能が含まれています。

  • エクステンションとリポーター

深層学習の訓練プログラムの実装時に頻繁に必要となる機能(訓練中のメトリクスの集計やプログレスバーによる進捗状況の可視化など)を、エクステンションとしてパッケージ化

  • パラメータサイズの自動推論

入力データのサイズをもとにLinear層やConvolution層のパラメータのサイズを自動的に推論することで、ネットワーク定義の記述を容易に

  • 分散スナップショット

スナップショットの保存・読み込み・世代管理を自動化することで、分散深層学習の訓練プログラムの実装コストを削減

pytorch-pfn-extras:https://github.com/pfnet/pytorch-pfn-extras

PyTorchのMediumコミュニティブログ(英語): Migration from Chainer to PyTorch

 

● OptunaのPyTorchエコシステム公式登録について

 

Optunaは、4月6日にPyTorchエコシステムに公式登録されました。PyTorchエコシステムは、PyTorchによる機械学習・深層学習の研究開発において、新機能の追加、学習・推論の高速化などを支援するツールやライブラリを認定するものです。公式登録には、プロジェクトが安定しており、継続的な開発と十分なサポートが行われていることが必要です。https://pytorch.org/ecosystem/

 

● 今後のPyTorch向け開発について

 

PFNとFacebookのPyTorch開発チームは共同で、pytorch-pfn-extras のPyTorch本体へのマージについて議論を進めています。また、PFNは社内外から要望の多い、深層強化学習ライブラリChainerRLのPyTorch版の開発を進めており、2020年前半のOSS公開を目指しています。

PFNは今後も機械学習・深層学習の研究開発を加速するため、Chainerの開発を通じて蓄積したソフトウェア技術を活かし、オープンソースのPyTorchの開発に貢献していきます。

 

Facebook PyTorch開発チームからコメントをいただきました。

pytorch-pfn-extrasを通じて、メトリクスの集計や分散スナップショットの管理など、Chainerの重要な機能をPyTorchコミュニティに提供してくれたPFNに感謝します。この新しいライブラリによって、PyTorch開発者は、モデルのパフォーマンスを把握し、トレーニングコストを最適化することができるようになります。今夏リリース予定のChainerRLなど、今後もPyTorchコミュニティに更なる貢献をもたらすPFNとのコラボレーションに期待しています。

Contact

お問い合わせはこちらまで。