株式会社Preferred Networks（本社：東京都千代田区、代表取締役 最高経営責任者：西川徹、プリファードネットワークス、以下、PFN）は、PyTorchを利用した深層学習の研究開発をサポートするためのライブラリpytorch-pfn-extrasをオープンソースソフトウェア（OSS）として本日公開しました。また、機械学習向けハイパーパラメータ最適化ライブラリOptuna™ のPyTorchエコシステム登録をはじめ、外部のPyTorch開発チームと協力し、自社開発するソフトウェアのPyTorchコミュニティとの連携を強化しています。

● pytorch-pfn-extrasのOSS公開について

pytorch-pfn-extrasは、深層学習フレームワークをChainer™からPyTorchへ移行する過程で社内外から寄せられたフィードバックを元に、特に有用度の高いChainerの機能をPyTorch向けに再実装して公開するものです。

pytorch-pfn-extrasの初版リリースには以下の機能が含まれています。

• エクステンションとリポーター

深層学習の訓練プログラムの実装時に頻繁に必要となる機能（訓練中のメトリクスの集計やプログレスバーによる進捗状況の可視化など）を、エクステンションとしてパッケージ化

• パラメータサイズの自動推論

入力データのサイズをもとにLinear層やConvolution層のパラメータのサイズを自動的に推論することで、ネットワーク定義の記述を容易に

• 分散スナップショット

スナップショットの保存・読み込み・世代管理を自動化することで、分散深層学習の訓練プログラムの実装コストを削減

pytorch-pfn-extras：https://github.com/pfnet/pytorch-pfn-extras

PyTorchのMediumコミュニティブログ（英語）: Migration from Chainer to PyTorch

● OptunaのPyTorchエコシステム公式登録について

Optunaは、4月6日にPyTorchエコシステムに公式登録されました。PyTorchエコシステムは、PyTorchによる機械学習・深層学習の研究開発において、新機能の追加、学習・推論の高速化などを支援するツールやライブラリを認定するものです。公式登録には、プロジェクトが安定しており、継続的な開発と十分なサポートが行われていることが必要です。https://pytorch.org/ecosystem/

● 今後のPyTorch向け開発について

PFNとFacebookのPyTorch開発チームは共同で、pytorch-pfn-extras のPyTorch本体へのマージについて議論を進めています。また、PFNは社内外から要望の多い、深層強化学習ライブラリChainerRLのPyTorch版の開発を進めており、2020年前半のOSS公開を目指しています。

PFNは今後も機械学習・深層学習の研究開発を加速するため、Chainerの開発を通じて蓄積したソフトウェア技術を活かし、オープンソースのPyTorchの開発に貢献していきます。

Facebook PyTorch開発チームからコメントをいただきました。

pytorch-pfn-extrasを通じて、メトリクスの集計や分散スナップショットの管理など、Chainerの重要な機能をPyTorchコミュニティに提供してくれたPFNに感謝します。この新しいライブラリによって、PyTorch開発者は、モデルのパフォーマンスを把握し、トレーニングコストを最適化することができるようになります。今夏リリース予定のChainerRLなど、今後もPyTorchコミュニティに更なる貢献をもたらすPFNとのコラボレーションに期待しています。