追記
PLaMo Liteに関する資料請求やお問い合わせはこちら

株式会社Preferred Networks（本社：東京都千代田区、代表取締役 最高経営責任者：西川徹、以下、PFN）は、子会社の株式会社Preferred Elements（本社：東京都千代田区、代表取締役社長：岡野原大輔、以下、PFE）が自動車やロボット、製造設備、PCなどのエッジデバイス向けに開発する小規模言語モデル（SLM: small language model）PLaMo™  Lite（プラモ・ライト）の提供を本日開始します。

PLaMo Liteは、クラウドを介さずにエッジデバイス上や、企業が自社で保有するオンプレミス環境で高速に動作可能なSLMです。PFEがフルスクラッチで開発した1000億パラメータの大規模言語モデル（LLM：Large Langage Model）PLaMo-100B^*1の開発成果を元にして10億パラメータの小型モデルを構築し、大規模なモデルに比べて計算コストを大幅に削減しました。また、事前学習には、PLaMo-100Bで生成した日本語と英語の高品質なテキストデータを使用し、PLaMo-100Bの事前学習データの2倍となる合計4兆トークンを学習させています。これによりPLaMo Liteは、日本語性能を評価する各種ベンチマークにおいて、同程度のパラメータ数のSLMと比べて圧倒的に高い日本語性能を示しており、Jaster 0-shotおよび4-shots^*2においては、よりパラメータ数の大きなLLMと比べても遜色ない評価を得ています。

PLaMo Liteの日本語性能評価
（日本語質問応答・日英翻訳での他社SLM比較およびJasterでの他社LLM比較）

PFNグループでは、SLMの需要の高まりを受け、PCなどのエッジデバイスや機密情報を取り扱うオンプレミス環境などで高速かつ高い日本語性能を発揮できるPLaMo Liteの提供を、今秋に予定している大規模言語モデルPLaMo 1.0 Primeの提供に先駆けて開始します。

今後も、LLM、SLM、業界特化型モデル、マルチモーダル基盤モデルなど、様々な産業ニーズに対応したモデルの開発を進め、生成AI基盤モデルの社会実装を推進していきます。

*1 日本の生成AI基盤モデル開発力向上を目指す政策GENIACで、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）が実施する「ポスト5G情報通信システム基盤強化研究開発事業／ポスト5G情報通信システムの開発」において、PFEが1000億パラメータのマルチモーダル基盤モデルPLaMo-100Bを開発しました。

*2 Jaster（ジェーアスター）：日本語性能を評価する標準ベンチマークで、GENIAC特有のカテゴリセット（NLI, QA, RC, MC, MR, FAの6カテゴリ）で評価されています。GENIACでは、Weights & Biases社のllm-leaderboard/g-leaderboard で主な基盤モデルをベンチマーク評価しています。評価スコアは、ベンチマークテストに全問正解すると1点満点となります。

●PLaMoについて

PLaMo（プラモ）は、PFNグループが独自に開発する生成AI基盤モデルです。子会社のPFEがGENIACプロジェクトの支援でフルスクラッチ開発した1000億パラメータのマルチモーダル基盤モデルPLaMo-100B、期間限定で無料トライアルを実施中の大規模言語モデルPLaMo β版、自動車や製造設備などのエッジデバイス向けに軽量化された小規模言語モデルPLaMo 1.0 Liteがあります。また、PLaMo-100Bをベースにした法人向けの大規模言語モデルPLaMo 1.0 Primeを今秋から販売する予定です。

株式会社Preferred Elementsについて　https://www.pelements.jp/

生成AIをはじめとするAI技術の実用化を進める株式会社Preferred Networksの子会社として2023年11月に創業。PFNグループが蓄積した大規模分散学習や深層学習のノウハウを活用し、より大規模で日本語性能の高い大規模言語モデルや、テキスト、画像、音声、センサ値など様々な種類のデータを扱えるマルチモーダル基盤モデルの開発を行い、日本の産業の技術革新に貢献していきます。

株式会社Preferred Networksについて　https://www.preferred.jp/ja/

株式会社Preferred Networks（PFN）は、生成AI・基盤モデルからスーパーコンピュータ、チップまで、 AI技術のバリューチェーンを垂直統合することで、ソフトウェアとハードウェアを高度に融合したソリューション・製品を開発し、様々な産業領域で事業化しています。2014年3月に創業。2020年、2021年に独自開発のAIプロセッサーMN-Core™を搭載したPFNのスーパーコンピュータMN-3が電力効率（Green500ランキング）世界1位を3度獲得。