2016年12月に入社して8年間お世話になったPreferred Networksを退職することになりました。せっかくの機会なのでどういったことに関わっていたのか簡単に振り返ってみたいと思います。
自分にとって、PFNを一言で表すと「エンジニアとしての自信をつけてくれた場所」です。
もともと大学では物理を専攻していて、競技プログラミングなどもまったくやったことがなく、入社当時はソフトウェアに関する実績などもなかった状態でしたが、PFNでのこの8年間を振り返ってみると本当に様々な経験をさせてもらうことができ、優秀な方々との仕事を通じて大きく成長させてもらったと感じています。
さまざまな共同研究プロジェクトを回す
最初に配属されたチームは自分が2人目（自分が来る前は1人の”チーム”だったということになりますね笑）で、製造業を中心にさまざまなパートナー企業様と共同研究をさせていただきました。
Deep Learningがでてきて急速に注目を集めていたタイミングであり、日本のあらゆる業種のトップ企業から集まってくる最先端課題に挑戦できたことはとても楽しくやりがいがありました。Webなどの世界に閉じず、現実世界にインタラクションする部分でのソフトウェア開発を行うという点も自身の興味とマッチしていて面白かったです。
新しく出てきた技術を扱い変化の早いこの業界でのプロジェクトは、期間も短く区切られており、成功による継続や、技術的な不確実性検証の結果として期待したほどの結果が出ないことによるプロジェクト中断も頻度高く行われるため、高速なPDCAサイクルが回っていたことも成長につながったと感じます。
そして何といっても同僚がとにかく優秀で、どんなに難しい課題でも常に解決策を模索し、チームで議論し一丸となって解いていくという体験は最高に刺激的でした。
OSS公開とチーム立ち上げ
物理畑出身の私はDeep Learningを画像や言語ではない、よりサイエンスの領域へ適用していくことに興味を持っていました。そんな中、生物/化学への応用を検討をしてみようということで参加したIPAB創薬コンテストではチームメンバーのドメイン知識と当時流行り出したGraph Neural Network (GNN)の技術を組み合わせたことでグランプリ受賞をすることができ、その際に使用したGNNの実装をライブラリ化して、Chainer ChemistryとしてOSS公開することもできました。
特に優れたスキルがあるわけでもない自分がOSSを公開することができたということは自信につながりましたし、この頃はモデルの多様性も大きく日々いろいろなNeural Networkの実装を行いその精度検証をするのが楽しかった記憶があります。
これらの活動をきっかけに、化学領域でもいくつかプロジェクトが動き始め、新しいチームの立ち上げにも関わることができました。
製品化とJV立ち上げ、〜グローバル展開〜
その後2017年ごろ、「基盤モデル」という言葉が出始めるまえに、原子シミュレーションを汎用的に行える基盤モデルであるPFPを開発するという共同研究が立ち上がりました。技術の尖ったSeedsの研究から製品化まで到達するというのは、これまでの経験からもとても難しいことも感じていながらもいつかは達成したいと思い続けていたことでした。このプロジェクトではさまざまな困難がありながらも、必要なタイミングで最適な方が参画してくれることになるなど奇跡に奇跡が重なって、2年の共同研究を経て最終的にMatlantisとして製品リリースされるに至り、2021年にPFCCというJVを立ち上げて製品展開するに至ることができました。
現在では100近い組織に導入していただいており、グローバル展開もはじまっています。現在の生成AIも然り、多くの技術はアメリカが最先端を進む中で、「日本発のSaaSで世界に挑む」ということもずっとやりたいと思っていたことであり、Matlantisはそれができているプロダクトです(しかも言語や慣習にとらわれないサイエンスという領域で!)。自分は一度エンジニアの職務を思い切り減らしてグローバル展開などに携わらせてもらっていたりしました。グローバル展開はいまもまさに現在進行形で進んでいて、今後がとても楽しみなプロダクトです。PFCCのミッション「革新的な材料・素材の創出を可能にすることで、持続可能な世界を実現する」は社会貢献度も高く共感していて、こんなプロジェクトに携われたことは本当に幸運でした。
国産LLM開発
直近ではPLaMo-100Bモデルの事後学習にたずさっていました。
この時点で国内ではまだ例のほぼない100Bレベルをきちんと学習させ切って使えるものにするというのは、プレッシャーも感じつつ、大勢で時間をかけて一つのモデルを作り上げるという体験は、これまでの時代とは違うもので、チームワークをより密に感じながら開発を進めることができ貴重な体験でした。
（→こういった開発を元にしたサービスがPLaMo Primeとしてリリースされていますので、ぜひご覧ください！）
さいごに
振り返ってみると、自分は特定の業界に対して専門知識を持つスペシャリストではなく、さまざまな業界の専門職の方とDeep Learning領域を結ぶ横断領域で間をつなぐジェネラリストとして動いてきたように思います。
その際に、PFN Valuesにもある”Motivation driven”に任せて、さまざまな領域に移らせていただき、幅広い経験をさせていただいたことは本当にありがたかったと思います。
今から全く同じ経験ができるかというと会社のフェーズも変わっており異なることもあると思いますが、PFN Valuesをはじめとする文化は継続されており、エンジニアとして裁量を持って挑戦ができ、それを通じて成長できる環境であることは間違いないと自信をもって言えます。
フェーズの変化というと、Plantの外販、PreferredAIリリース、Misemiseリリース、PFCP, MN-Coreの外販などなど、、、最近は立て続けに各チームから製品が生まれており、事業化フェーズのギアが完全に切り替わったように感じます。
これからは外側から応援しつつ、さらなる飛躍を日々ニュースで見るのを楽しみにしています。
この最高の職場で働けたこと、そしてお世話になった方々には本当にとにかく感謝しています、ありがとうございました！