【東京:リモート】LMモデル学習・分散学習最適化エンジニア
株式会社フィックスターズ
- 正社員
- 完全週休2日制
- 想定年収
- 600万円~1010万円
- 勤務地
- 東京都
数十ノード規模のGPU環境を潤沢に活用しLLMモデル開発の本質プロセスに集中
【職務概要】
同社にて、大規模言語モデル(LLM)開発における継続事前学習(CPT)、教師あり微調整(SFT)、強化学習(RL)の学習実行とパフォーマンス評価・改善業務を担当していただきます。
【職務詳細】
・大規模言語モデルの開発における継続事前学習(CPT)、教師あり微調整(SFT)、および強化学習(RL)の学習実行と検証
・WandBなどの実験管理ツールを用いた評価結果の調査、および各種ログ分析に基づく学習効率・性能のボトルネック特定
・特定したボトルネックに対する仮説ベースの改善策(ハイパーパラメータや分散トポロジーの調整等)の立案・検証・適用
・モデル学習の効率化や精度向上に向けた、合成データ生成を含むデータパイプラインの運用と評価
・分散学習フレームワークを用いた、モデルの学習安定性およびメモリ効率化に関する検証・チューニング
【プロジェクトのやりがい】
・計算資源の制約や順番待ちに縛られることなく、自身の立てた仮説に基づく大規模な実験・検証を迅速に実行できます。
・評価メトリクスやログといった定量データからボトルネックを紐解き、自身のチューニングによって学習効率やモデル性能が向上していく手応えをダイレクトに実感できます。
会社の特徴
■同社はマルチコアプロセッサの性能を向上させるソフトウェア開発を行う企業です。
ソフトウェアの最適化に加え、I/Oボトルネックを解消するため、高速ストレージ技術を活かしたシステム全体の性能向上を実現しています。最先端の高速化技術を活かした自社プロダクト開発にも注力し始めており、更なる成長が期待される企業です!
■おすすめポイント
・次世代の技術開発に携わることができ、希少価値の高いエンジニアに成長できる会社です。大学院で博士や修士をとっている社員が多数を占め、各々の専門知識を存分に活かして開発に取り組んでいます。技術勉強会やプログラミングコンテストを自主的に開催しています。
・オンとオフの切り替えをしっかりし、充実した仕事が出来る環境があります。毎年の社員旅行や各種部活動なども実施しています。またプログラミングに必要な設備提供や技術書購入等に関しては、制限なしで支援をしています。
募集要項
職種
【東京:リモート】LMモデル学習・分散学習最適化エンジニア
応募資格
【必須】
・深層学習モデル(特に大規模モデル)の CPT/SFT/RL 等学習実行経験、および実験管理ツールやログ(WandBなど)を用いたパフォーマンス評価・ボトルネックの改善経験
【尚可】
・AWS ParallelClusterやSlurmなどのHPC/クラスタ環境を用いた実務経験
・Megatron BridgeやNVIDIA-NeMo/RLなどの先端フレームワークを用いた最適化経験
・CPT、SFT、強化学習(RL/RLHF)のパイプライン構築や、データ処理(合成データ生成等)の効率化に関する知見
・GPU間通信(NCCL等)のチューニングや、インフラレイヤにおけるボトルネック解析の経験
・関連する技術ドキュメントや論文を読み解き、システム設計へ適用できる能力
求める人物像
・評価結果やログなどの定量的なデータに基づき、仮説ベースでロジカルにボトルネックを紐解き、改善を繰り返せる方
・高い主体性を持ち、環境の強みを活かして自ら進んで実験・検証を推進できる方
勤務地
東京都港区芝浦1-1-1 BLUE FRONT SHIBAURA TOWER S 31階
勤務時間
始業10時00分、終業19時00分を基本とし、労働者の決定に委ねる
※9時間勤務したものとみなす
想定給与
600万円~1010万円
※経験、スキルにより決定致します。
待遇/福利厚生
社員持株会制度(持株会奨励金として拠出金額の100%を補助)、社外活動費補助、語学研修補助、ビジネススキルアップサポート、資格取得補助、産業医によるメンタルヘルスサポート、ドリンク補助、書籍購入補助、キーボードなどの備品購入補助、子供手当、特別賞与、社外常駐手当
休日/休暇
完全週休2日制(土・日・祝日)、夏季休暇、年末年始休暇
雇用形態
正社員
会社概要
会社名
株式会社フィックスターズ
事業内容
マルチコアプロセッサ関連事業
本社所在地
東京都港区芝浦1-1-1 BLUE FRONT SHIBAURA TOWER S 31階
設立年
2002年8月
従業員数
334名
資本金
5億5446万円
平均年齢
35歳
この企業のその他の求人
【東京:リモート】ソフトウェアエンジニア(高難易度)
毎年増収増益を実現/世界で数少ない「高速化」のリーディングカンパニー!
想定給与 400万円~700万円
【福岡】システムエンジニア
【東証プライム上場】/綺麗なオフィス!/福岡勤務で東京ベース給料!
想定給与 540万円~910万円
【東京:リモート】金融系システム開発エンジニア
【東証プライム】画像処理等最先端技術をもつスペシャリスト集団!
想定給与 540万円~700万円
【福岡】エンジニアポジションサーチ
【東証プライム上場】/綺麗なオフィス!/福岡勤務で東京ベース給料!
想定給与 540万円~910万円
【福岡】プロジェクトリーダー
【東証プライム上場】/綺麗なオフィス!/福岡勤務で東京ベース給料!
想定給与 700万円~900万円
【東京:リモート】AI Boosterソフトウェアエンジニア
★東証プライム★/最先端AI基盤開発に携わり、世界を変える挑戦を
想定給与 540万円~700万円
【東京:リモート】プロジェクトマネージャー
【東証プライム】最先端技術と事業成長を両輪で牽引するPM募集
想定給与 800万円~1200万円
【東京:リモート】AI Boosterソフトウェアエンジニア/ミドル
★東証プライム★/最先端AI基盤開発に携わり、世界を変える挑戦を
想定給与 700万円~1200万円
【東京:リモート】AI Boosterソフトウェアエンジニア/リーダー候補
★東証プライム★/最先端AI基盤開発に携わり、世界を変える挑戦を
想定給与 1200万円~2000万円
【神奈川】ソフトウェアエンジニア
【東証プライム】「エンジニアが主役」がモットーの会社!スキルアップ◎
想定給与 600万円~1010万円
