インターン参加のきっかけ
以前からPFNのインターンの存在自体は存じ上げていたのですが、（締め切り当日に）2023年度インターンのテーマ一覧をなんとなく眺めたところ、理論系の、しかも微分方程式に関するテーマがあったので、これは気になると思い、勢いで応募しました。

インターンに参加して得たもの
当初は理論研究しかできる気がせず、インターンが始まってから4週間は、一行もコードを書かずに、メンターの方とホワイトボードで議論し続ける毎日でした。その後、これは実装できそうだということになり、苦手な実装に2週間で取り組むということになりました。かなり無謀な試みでしたが、clusterチームの皆さんや、社内にいる強いエンジニアの方々が親身にアドバイスしてくださったおかげで、なんとか結果を出すことができました。この濃密な過程の中で、深層学習という技術が、理論のみならず、高度なエンジニアリングによって支えられているということを実感することができました。

こんな方にはPFNインターンをおすすめします！
現在の深層学習技術は、計算可能にするためのエンジニアリングは先行しているものの、その妥当性を保証してくれるはずの理論が遅れてしまっていると思います。
この状況を打破し、深層学習を安心できる工学技術に昇華させるためには、情報・工学系の学生の皆さんだけではなく、大学・大学院で理論をじっくり学んできた数物系の皆さんの協力も必要だと考えています。
PFNのインターンには、そのような理論志向の方々も楽しめるテーマもありますので、是非数物系の皆さんも応募してみてください。

インターンで取り組んだこと
PFN 4D Scanの撮影現場では、現場の環境に合わせて数十台のカメラをセットアップする必要があります。全てのカメラを人手で制御するのは手間なので、現状ではカメラのベンダーから提供されるカメラ制御用のアプリを用いて撮影を行っています。しかし既存のアプリには、使えるカメラの種類が限られる、挙動が不安定などの問題があったり、4D Scanの撮影用に最適化されていないUIになっていたりと、作業効率を低下させる要因が多数残されていました。
そこで、私のインターンプロジェクトとして、これらの問題点を解決できるような、4D Scanに特化したアプリを作成することになりました。具体的には、以下のような特徴を持つアプリを開発しました：

• 複数種類のカメラを同時に扱えるアプリケーションにしました。また、将来的に新しいカメラの実装も簡単に追加できるよう、実装上の工夫を施しました。
• 不安定なハードウェアの挙動によって問題が生じてしまった場合でも、アプリケーション側でそれを検知し、ユーザに対して適切なエラーを表示するようにしました。
• 4D Scanでよく使われるフローを機能として組み込み、撮影フローに最適化されたUIとなるように工夫しました。

  アプリを動かすPCとカメラとは直接には繋がず、Ubuntuが載ったRaspberry Piを中継地点として使いました。複数種類のカメラのSDKを内部で叩き分けることのできる「カメラ用サーバ」と、カメラ用サーバを複数取りまとめてAPIを提供する「APIサーバ」を開発し、それぞれRaspberry PiとPCにのせました。また、APIサーバと通信しながらUIを提供するフロントエンドの実装も行いました。フロントエンドではReact + TypeScript + Viteを、バックエンドではFastAPI + Ryeを主に使用しました。

インターン参加のきっかけ
PFN代表の西川さん・岡野原さんと同じ学科出身ということもあり、PFNという会社自体の知名度は、自分のコミュニティの中で元から非常に高かったですが、機械学習の研究に長けたAIの会社というイメージがぼんやりとあっただけで、開発をメインにキャリアを進めていこうと思っていた自分は、当初あまり強く応募を考えているわけではありませんでした。しかし、インターンのプロジェクト一覧を閲覧したところ、開発プロジェクトが研究プロジェクトと同程度あり、機械学習をはじめとして技術力の高い方が揃うPFNの環境で実務経験が積めることを知って、一気に興味を持ちました。

インターンに参加して得たもの
技術的に多くのことを学んだのはもちろん、PFNで働く社員の方々の雰囲気や、会社のカルチャー、オフィスの空気を知ることができたのは非常に良い経験になりました。当初思っていた通り、機械学習関連の技術に非常に力を入れていることの再確認もできた上、開発にも非常に力を入れていて、リサーチャーとしてだけではなくエンジニアとしても優れた方が多いことに驚きました。リサーチャー、エンジニアの区分が明確に存在せず、両方のことに興味を持って高いレベルで取り組んでいる方が非常に多いと感じました。

こんな方にはPFNインターンをおすすめします！
PFNに対して、機械学習の研究のイメージを強く持たれている方も多いかとは思いますが、機械学習だけをやっている会社では決してなく、そのほかにもいろいろな事業がある会社です。そして、その各事業それぞれに、関連技術に長けた人、その技術に強い興味を持つ人が本当に多い環境です。また、自分が知らない技術に関しては、現在知らないこと自体は大きな問題とならず、これから学んでキャッチアップすれば良い、という風潮が強く根付いていると感じました。このような技術と学びを中心に回る環境で、インターンとして働けることは非常に刺激的で、2ヶ月弱という短い期間の中でも非常に大きく成長することができます。新しい技術を学んだり、それを使って何かを開発したりするのが好きな方は、ぜひインターンへの応募をご検討ください。
また、PFNの社員の方々は、リサーチャーとエンジニアの区分を明確に持たずに仕事を行なっているため、両方のスキルを持つ方は非常に重宝されると感じています。リサーチャーとエンジニアのどちらにも魅力を感じている方、機械学習とエンジニアリングの両方の知見を活かしたいと思っている方にも、非常におすすめです。

12:00-13:00: Lunch with mentor, internship participants or members of other teams. This is a good opportunity to get to know more about what other internship participants are working on, or about the interests of other members.

13:00-16:00: Experiment by implementing features, perform benchmarks on the implementation on the cluster, or optimize the implementation with insight gained from the benchmarks.

16:00-18:00: Discuss with mentor the results of the experimentations, and prepare slides for presentation. Also discuss what to work on the next day.
 

インターン参加のきっかけ
I find the theme that I have chosen – development of the atomistic simulator Matlantis – interesting because it involves a large-scale system. Also, PFN is a place where it is easy for experts of many fields to meet, so I believed that internship at PFN would be an excellent chance to learn. In addition, it is a chance to meet and learn from other university students with similar interests.

インターンに参加して得たもの
Apart from the theme that I have chosen, it is a good opportunity to learn a lot from other teams. During the internship, there are opportunities to listen to presentations by other internship participants and other members, including the mid-term presentation and the PFN day. I got to learn about other fields that I don’t work on, like control engineering and education.

こんな方にはPFNインターンをおすすめします！
If you are willing to learn, internship at PFN will surely be a very rewarding experience. There are many challenging and interesting problems to solve, so the more prepared you are, the more you will learn.

インターン参加のきっかけ
ブログ記事をきっかけに以前からMN-Coreには興味を持っており、社内ではどのような研究開発が行われているのか非常に気になっていたため参加を決めました。 また、深層学習のイメージが強かったのですが、インフラや創薬など多様な領域のプロジェクトがある点も魅力的でした。

インターンに参加して得たもの
アクセラレータ向けに効率の良いプログラムを書くには一般には何を考えたら良いのか、そしてMN-Coreではどう達成しているか、実装しつつデイリーシンクの度にメンターの方から教えていただき学ぶことができました。 また、ASICアクセラレータの実機を触るという個人ではできない経験ができ、論文で読んでいたアクセラレータの話、例えばどのような演算器がありメモリサイズはどの程度か、などの肌感が掴めるようになった気がします。 インターン中はMN-Coreに特化した実装・チューニングをしていましたが、自分の研究などにも応用が効く考え方が養われたと感じます。

こんな方にはPFNインターンをおすすめします！
成長できるインターンであるのはもちろんのこと、インターン同期や社員の方々との交流の機会も頻繁にあり、多くの学びや出会いのある期間になるはずです。 専門分野と少しずれていても、自分が持っている知見を応用できたりインターン後には還元できると思いますので、ぜひ興味のあるテーマがあれば応募を検討してみてください！

インターンで取り組んだこと
インターンでは分散学習ワークロードを想定した分散キャッシュシステムの開発を行い、ファイルシステムからホスト上のメインメモリに学習データを高速に分配する方法についてプロトタイピングを行いました。スーパーコンピュータの広帯域なネットワークを最大限活用するべく、InfiniBand Verbs を直接利用した RDMA ベースのプロトコルを検討し、Python バッファに対するゼロコピーなファイル転送プロトコルの実装に取り組みました。深層学習ワークロードでは学習データをシャッフルするため、時間局所性を利用するキャッシュでは課題があります。ファイルシステムのレイテンシとホスト間のレイテンシが異なることを利用して、ホスト間でデータを非同期かつ小さいレイテンシで交換できるような機構について検討を行いました。

インターン参加のきっかけ
元々 Web バックエンドの開発やデータベースの運用、研究室ではサーバの管理運用に興味があり、アプリケーションそのものを作るよりもアプリケーションを下から支えるコンピュータシステムの方に興味を持っていました。PFN のインターンは深層学習技術の研究開発や応用のイメージがあったのですが、自社でスーパーコンピュータを持っていること、インフラ領域のインターンも募集していることを募集要項で知り、応募に至りました。

インターンに参加して得たもの
インターン期間中は分散キャッシュシステムの設計と実装について考え続ける刺激的で楽しい日々でした。メンターの方との議論やコードレビューを通して実装力がついたと思います。

また、研究の進め方についても多くを勉強させてもらいました。分散キャッシュシステムの設計を考える上では、既存の分散メモリ技術や分散キャッシュ技術、RDMA ベースのプロトコルについてのサーベイや議論を丁寧に行うことができただけでなく、日々の議論を通してリサーチディスカッションの練習にもなりました。中間・最終発表では LT やポスターセッションを通してメンター以外の方々と議論を重ねることができ、アウトプットの練習にもなりました。

こんな方にはPFNインターンをおすすめします！
社内には私のように深層学習畑以外の出身者も多く、インターンでも実に幅広いテーマを扱っていますので、興味のあるテーマがあればぜひ応募を検討してみてください。