株式会社Preferred Networks（本社：東京都千代田区、代表取締役 最高経営責任者：西川徹、以下、PFN）は、子会社の株式会社Preferred Elements（本社：東京都千代田区、代表取締役社長：岡野原大輔、以下、PFE）が、日本の生成AI基盤モデルの開発力向上を目指すプロジェクト「GENIAC（Generative AI Accelerator Challenge）*1」の第1サイクルに採択されて開発した成果物である PLaMo-100Bの事前学習モデルをPLaMo-100B-Pretrainedとして公開します。PLaMo-100B‐Pretrainedは、学術･研究用途を想定した非商用ライセンス（https://huggingface.co/pfnet/plamo-100b）、商業用途向けの商用ライセンス（申請フォーム）で本日提供を開始します。

PLaMo™︎は、PFNグループが独自アーキテクチャと学習データを用いてフルスクラッチで開発する純国産の大規模言語モデルです。1000億パラメータの事前学習モデルであるPLaMo-100B‐Pretrainedに指示学習を施したPLaMo-100Bは、日本語性能を評価するベンチマークJaster*2 0shotおよび4shotにて、GPTやClaude、Llamaを上回る最高性能を記録するなど、高い日本語性能を有しています。また、金融分野関連のベンチマークや医師国家試験などの専門知識に関する質疑においても高い応答性能を持つことが確認できています。

PFNグループではPLaMoの開発を継続しており、12月上旬を目標に、さらに日本語性能を向上させた法人向けのPLaMo Primeを提供する予定です。

大規模言語モデルPLaMo-100B-Pretrained のダウンロード 及び 申請リンク

◎非商用ライセンスでのモデルダウンロードはこちら

◎商用ライセンスの申請フォームはこちら

PFNのPLaMoに関するブログ記事および関連論文一覧

1兆 (1T) パラメータ規模のLLMの事前学習検証
1,000億パラメータの独自LLM「PLaMo-100B」の事後学習が完了
PFEの開発したLLMのPLaMo-100Bを用いた金融ベンチマーク評価と結果の分析
1,000億パラメータ規模の独自LLM「PLaMo-100B」の事前学習

PLaMoについて

PLaMo（プラモ）は、PFNグループが独自に開発する大規模言語モデルです。PFNの子会社であるPFEがGENIACプロジェクトの支援を受けて1000億パラメータのPLaMo-100Bをフルスクラッチで開発しました。PLaMo-100Bは現在、SaaSのPLaMo β版として期間限定で無料トライアルを実施中です。β版の性能をさらに向上させたPLaMo Primeは、本年12月より販売する予定です。また、自動車や製造設備などのエッジデバイス向けに軽量化された小規模言語モデルPLaMo  Liteも提供中です。

*1：経済産業省及び国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）が実施する、国内の生成AIの開発力を強化するためのプロジェクト

*2： 日本語性能を評価する標準ベンチマークで、GENIAC特有のカテゴリセット（NLI, QA, RC, MC, MR, FAの6カテゴリ）で評価。GENIACでは、Weights & Biases社のllm-leaderboard/g-leaderboard で主な基盤モデルをベンチマーク評価を実施。評価スコアは、ベンチマークテストに全問正解すると1点満点となる。​