生成AI向けプロセッサーMN-Core L1000の開発を開始
電力効率の高いMN-Coreアーキテクチャに三次元積層の分散メモリを搭載、 生成AIの推論を最大10倍高速化
2024.11.15
株式会社Preferred Networks(本社:東京都千代田区、代表取締役最高経営責任者:西川徹、以下、PFN)は、独自開発するAIプロセッサーMN-Core™シリーズの新製品として、大規模言語モデルなどの生成AIに最適化したMN-Core L1000(以下、L1000)の開発を開始し、2026年の提供を目指します。生成AI特有の処理に最適化することで、生成AI利用時(推論)において、GPUなどの既存プロセッサーの最大10倍の高速処理を実現します。
生成AI向けプロセッサー MN-Core™ L1000(CGイメージ)
生成AIのモデル開発(学習)には、大規模な計算資源・データ・パラメータが必要であり、そのためにGPUなどの高性能なプロセッサーが大量に使用されています。一方で、生成AIの利用(推論)には、学習時ほどの演算性能を要求されないものの、文章や画像などを生成するたびに数百ギガバイトもの膨大なデータを読み込んで演算する必要があり、既存のプロセッサーではメモリ帯域幅(転送できるデータ量)がボトルネックとなって処理にしばしば時間がかかっています。
PFNは、生成AI利用時の推論に特有の処理に最適化するため、データを保存しておくメモリ(記憶装置)と演算器(ロジック)とのデータの受け渡しを高速かつ低消費電力で処理できる新しい推論プロセッサーを開発します。
●生成AI向けMN-Core L1000の主な特長
L1000は、2016年から開発を続けるMN-Coreの設計思想と、最新の三次元積層技術を組み合わせて開発します。
1.三次元積層DRAM(dynamic random access memory)を採用
メモリを演算器に対して垂直方向に積載する三次元積層メモリにすることで、従来のハイエンドGPUに搭載されているHBM(high bandwidth memory)と比べてメモリ帯域幅を拡大します。また、近年AIプロセッサーで利用が広がるSRAM(static random access memory)に比べて大容量かつ安価なDRAMを採用し、メモリの大容量化と高速化を安価に実現します。
2.MN-Coreシリーズの設計思想の継承
MN-Coreアーキテクチャは、極めて高密度にハードウェア実装された演算器と分散メモリを持ち、それらをソフトウェアで制御することで、演算時の消費電力と排熱を最小化しています。その電力効率の高さは、2020年、2021年の電力性能ランキングGreen500*でMN-Coreを搭載したスーパーコンピュータMN-3が世界1位を3度獲得したことで実証されています。また、三次元積層メモリの技術課題の一つである演算器の高温対策についても、排熱が少ないことによって対応することができます。
L1000はこれらの技術を組み合わせることにより、生成AI利用時の推論において、GPUなどの既存プロセッサーと比較して最大10 倍の高速化と、高い電力効率を両立します。
生成AIの推論処理を高速化できれば、利用時の計算コストも削減できるとともに、オンプレミスでの利用やソフトウェアへの組み込みも可能になります。PFNは、日本語性能の高い純国産の生成AI基盤モデルPLaMo™の開発も行っており、ビジネスや生活に浸透しつつある生成AIのさらなる普及に向けて、ハードウェアとソフトウェアの両面から推進して行きます。
AIプロセッサーMN-Core™シリーズについて
https://projects.preferred.jp/mn-core/
MN-Coreシリーズは、深層学習の特徴である「行列演算」に最適化したプロセッサーで、PFNが神戸大学と共同開発しました。ハードウェアの演算器数を最大化するため、ネットワーク制御回路やキャッシュコントローラ、命令スケジューラなどの機能を内包せず、コンパイラにその機能を持たせて最小限の機能に特化することで、深層学習における実効性能を高めています。MN-Coreを搭載して2020年に稼働したPFNのスーパーコンピュータMN-3は、2020年6月から2021年11月までに、スーパーコンピュータの省電力性能ランキングGreen500で3度世界1位を獲得しています。MN-Coreの第二世代となるMN-Core 2は2023年に稼働しており、2024年9月からMN-Core 2 を8基搭載したMN-Server 2 およびMN-Core 2を1基搭載した開発用ワークステーションMN-Core 2 Devkit の販売、同年10月からはMN-Server 2を利用できるクラウドサービスPreferred Computing Platform™(プリファード・コンピューティング・プラットフォーム、PFCP™)の提供を開始しています。
*電力性能ランキングGreen500:これからのスーパーコンピュータはエネルギー効率が最重要である、という見地から、2005年に始まったプロジェクト。バージニア工科大学の Feng 教授を中心とするグループが 2007年11月から年 2回発表している。対象となるのはHPLベンチマークでTOP500 にランク入りしたシステムで、演算性能/消費電力比で順位が決まる。