株式会社Preferred Networks（本社：東京都千代田区、代表取締役 最高経営責任者：西川徹、プリファードネットワークス、以下、PFN）は、2020年1月にPFNが公開したオープンソースの機械学習向けハイパーパラメータ自動最適化フレームワーク「Optuna™（オプチュナ）」のメジャーアップデート版であるOptuna v2.0を公開しました。

ニューラルネットワークのハイパーパラメータの重要度を評価するOptuna v2.0の画面の例

Optuna v2.0の主要な新機能は以下の通りです。

• ハイパーパラメータの重要度評価
  最適化対象のアルゴリズムに対する各ハイパーパラメータの重要度を定量的に評価。研究者や開発者は、この重要度をもとに、最も影響の大きいハイパーパラメータの調整に集中することができます。
• Hyperbandによる枝刈り
  深層学習と高い親和性を示し安定的な最適化性能を発揮するHyperbandによる枝刈りを実装。エポックごとの精度など、中間結果から見込みのないハイパーパラメータ評価を中断（枝刈り）することで、最適化を高速化します。
• 処理性能の向上
  ストレージの実装が改善され最適化処理における入出力の性能が向上。これにより、実験では最大10倍の最適化処理の高速化が確認されました。
• 対応ライブラリの拡充
  段階的なアルゴリズムに基づくLightGBM拡張を中心として MLflow, AllenNLP, TensorBoardなど更に多くの機械学習ライブラリに対して専用モジュールを提供しました。

2018年12月のオープンソース化以降、研究者や開発者からのOptunaへの関心は高まっており、直近1か月には10万回以上のダウンロードがありました。今後PFNは、Optunaで複数の評価指標を同時に最適化するために多目的最適化に対応するなど、より多くの機能を統合し、継続的に性能強化を図る予定です。

Optunaについて
Optunaは、Pythonで書かれたハイパーパラメータ自動最適化フレームワークとして、PFNが2018年12月にオープンソース化しました。Optunaは、優れた性能を発揮するハイパーパラメータを見つけるための試行錯誤を自動化します。すでに、PFNの様々なプロジェクトで使用され、物体検出コンペティションKaggle Open Imagesでは、チームPFDetの上位入賞に大きく貢献しています。(https://optuna.org)