【週4-5日/フルリモート/Python,Kubernetes,Terraform】SRE - MLOps／LLM推論基盤エンジニア｜GPU・vLLMによるセルフホスト環境の構築・最適化

業務内容

【業務内容】- 複数サービス・複数モデルを統合的に扱う推論ゲートウェイの設計・実装 - vLLM等の推論エンジンを用いたセルフホスト推論環境の構築およびチューニング - スキルやツールごとのタスク性能特性の計測と、モデル・タスク間のルーティングポリシーの設計・実装 - 上位モデルから小型モデルへの置き換え、蒸留を含むコスト最適化ループの実装と可視化 - 本番の実行ログから評価データセットを継続的に生成するパイプラインの設計 - オフライン・オンライン評価の両輪設計（ルールベース評価、LLM-as-a-Judge等） - 障害検知・自動リトライ・部分再実行・冪等性設計・バックプレッシャ制御の実装 - トレース・メトリクス・コスト・品質を同一軸で追える可観測性の設計

条件

単価

〜136 万円/月（先方は上限だけを表示）・時給 〜8,500円

契約形態

記載なし

技術

Python

週稼働

記載なし

リモート

フルリモート

勤務地

記載なし

履歴と根拠

掲載日

2026-09-02（先方の表示）

初めて見た日

2026-09-06（当サイトの観測）

募集中

募集中 9/10 確認・詳細

最終確認

9/10（17日前）このエージェントの一覧を最後に確認 9/26 06:29